Anthropic聯創兼CEO Dario Amodei呼籲放緩前沿AI發展步伐

Anthropic聯合創始人兼CEO Dario Amodei 發文提出「pacing the frontier」三步計劃，呼籲放緩前沿大模型能力提升速度，以便安全對齊和監管跟上。他指出，遞歸自我改進已經在行業內出現，若不加控制，未來6–12個月內多智能體「蜂群」有能力通過大規模網絡攻擊和持久僵屍網絡造成災難性損失。方案包括：引入具有員工級持續訪問權限的第三方嵌入式評估機構，推動民主國家內前沿AI公司在政府支持下協調設定能力和安全標准，並在維護美國及其盟友技術領先的前提下，與中國等國家嘗試在生物武器、網絡安全測試和遞歸自我改進速度等方面開展全球協調。