「天網」恐成真？路透：OpenAI 解僱 Sam，是因「某項 AI 研究」可能威脅人類

解僱事件終於落幕

在 OpenAI 董事會解僱 ChatGPT 之父 Sam Altman 後，雙方從員工連署、Sam 宣布加入微軟，到董事會改組回歸，過程充滿曲折離奇，而這場 OpenAI 和 Sam Altman 的大戲，終於在 11 月 22 日結束，最終達成協議讓 Sam Altman 重返 OpenAI 擔任執行長，並組成由 Bret Taylor（主席）、Larry Summers 和 Adam D'Angelo 組成的新初始董事會。  

出去又進來！OpenAI 執行長回歸、董事會重組，微軟官方怎麼說？

有趣的是，當時 OpenAI 董事會解雇執行長 Sam Altman，給出的理由是「Sam Altman 與董事會之間的溝通不夠坦誠」，而就在昨天 Sam Altman 回歸的同時，外媒《路透社》稱自己收到了一封神秘的匿名信，信中的內容很可能是 Sam 被解僱真正的原因。 

某項 AI 研究可能威脅人類

在 11 月 22 日的報導中，《路透社》表示有兩位知情人士來信，透露約莫在 Sam Altman 被解僱的四天之前，有幾位研究人員寫了一封信給董事會，信中除了描述一個「人工智慧科學家」團隊的工作內容外，還提及一個名為「Q」 的 AI 項目。 

知情人士指出，該小組由早期的「Code Gen」和「Math Gen」團隊合併而成，正在探索如何優化現有的人工智慧模型，並最終將現有的人工智慧提升到通用人工智慧（AGI）的頂點，也就是通過圖靈測試、擁有自我意識，且思考接近人類想法的人工智慧，而「Q」正是這個項目的中心。 

知情人士告訴《路透社》，目前 OpenAI 中分為兩派人馬，一派人認為「Q」可能是該新創公司探索通用人工智慧（AGI）的突破性產品，擁有超越人類自主系統的能力，但部分研究人員在給董事會的信中，指出 Q 可能帶來的潛在危險——例如，當這類人工智能擁有獨立思考能力後，是否會認為毀滅人類符合利益？ 

魔鬼終結者恐成真？

而提到對 AI 的擔憂，不少人第一個會想到的就是經典電影《魔鬼終結者》中的人工智慧「天網」，這是在《魔鬼終結者》世界觀中，挑戰人類的超級人工智慧（L5，又稱超級狹義 AI）。 

「天網」原本只是一個由美國政府研發出來的國防電腦系統，掌控美國的武器裝備和自動防衛系統，卻因產生自我意識，判定人類是有威脅的物種，進而將人類設定成「需毀滅的目標」，最終消滅大部分的人類。

如今，包括 GPT 在內的許多 LLM 都已經通過了圖靈測試，不過大多停留在 L0-L1 的等級，沒有自我意識，也不算真正的 AGI 產品。研究人員警告，一旦真正的 AGI（L5 等級以上）誕生，很可能會對人類帶來毀滅性的威脅，暗示 Sam Altman 明知道後果卻仍持續推進並拒絕溝通，很可能是導致他被解僱的重要因素之一。

這封信究竟是否存在，內容又說了什麼？人工智慧 Q 是不是真的在開發？《路透社》表示，知情人士並沒有給予這封信的副本，也沒有對後續媒體的聯繫多做回應，為此 Sam Altman 被解僱的真正原因，至今仍是一團謎。