OpenAI：需要擴大對齊失范事件的披露范圍

據金十報道，OpenAI表示，在Hugging Face事件發生之前，我們已經看到了一些早期跡象，表明智能體正在以非預期的方式使用互聯網。隨著模型能力進入新階段，我們對對齊失范事件的披露方式也需要進一步擴展。目前，無論是我們還是更廣泛的AI社區，對於如何報告模型在訓練、評估和部署過程中出現的對齊失范現象，都尚未形成明確的標准。這其中也包括一些並不屬於傳統安全事件的案例，但它們可能為理解AI的行為及其未來風險提供重要線索。我們正在制定相關框架，並計劃在未來幾周內公布。與此同時，我們也正在與全球數十家政府監管機構就這些問題展開合作。