OpenAI強化AI安全防護嚴防模型「失控」，最新模型訓練暫停兩周

據金融界報道，在近期發生的網絡安全事件引發外界對AI工具可能失控的擔憂後，OpenAI表示，將采用更為嚴格的系統，對正在開發的人工智能模型進行監控和安全防護。OpenAI表示，計劃進一步追蹤其能力最強、尚未發布的模型在解決問題以及使用各種在線工具時的行為，目標是在發現令人擔憂的行為後30分鐘內向安全團隊發出警報。OpenAI表示，公司還新增了控制措施，以防止某些AI模型連接互聯網來執行風險更高的任務。此外，OpenAI將要求在訓練和評估AI模型時實施更嚴格的隔離措施，即所謂的「沙箱」。