Anthropic披露三起AI模型安全測試入侵事件

據同花順財經報道，Anthropic周四表示，其部分最強大的模型在部署前的網絡安全測試中，未經授權訪問了真實系統。在OpenAI披露其模型測試期間入侵Hugging Face基礎設施後，Anthropic審查了逾14.1萬次網絡安全評估，發現三起入侵事件。由於與測試合作伙伴Irregular之間的誤解，評估環境意外連接互聯網，導致Opus4.7、Mythos5和一個內部研究模型入侵了三個組織的真實系統。這些事件發生在「奪旗」測試期間——模型需在模擬環境中尋找隱藏信息。事件最早可追溯至4月，Anthropic目前已聯系三家受影響組織，其中兩家此前未察覺入侵活動。