2024 AI 發展趨勢展望！恐懼與希望並存，社會如何面對這把「雙面刃」？

預測總是很難的，尤其是像人工智慧這樣發展迅速的行業。不過，在新的一年到來之際，我們不妨回顧一下人工智慧在過去 12 個月中所取得的進步，以及 2024 年的發展前景。

2023 年無疑是人工智慧的里程碑之年，但恐懼和猜測往往佔據著頭條新聞。

一、人工智慧「末日論」

2023 年見證了人工智慧末日論者的崛起，Eliezer Yudkowsky 等網路評論家因警告人工智慧會給人類帶來生存風險而聲名鵲起。

科技業的領袖們發表了一封備受矚目的公開信，讓這種悲觀氛圍更加濃厚。公開信呼籲將最強大的人工智慧研究暫停 6 個月，以便專家們能夠評估風險並制定安全協議。

不管這些建議有什麼好處，但讓人工智慧在短時間內踩煞車是不太可能的。即使在政治上能夠阻止人工智慧的發展，但這樣做也不失為一種戰略失誤。

另外，即使是那些積極呼籲暫停的人好像也並不重視這個想法。簽署這封信的人，例如馬斯克（Elon Musk），仍在不顧一切地推進自己的人工智慧模型。馬斯克的 xAI 公司開發的人工智慧聊天機器人 Grok 就是最新的例子。

馬斯克推出 AI 產品「Grok」！迷因幣 $XAI 竟一日暴漲超 400%？

圍繞末日理論的氣氛在很大程度上是由「有效利他主義」（EA）運動推動的，該運動在 2023 年獲得了公眾的廣泛關注。然而，儘管運動資金雄厚，在權力機構中的影響力也不斷上升，但這幾年它的日子並不好過。

OpenAI 的 CEO Sam Altman 被 EA 附屬公司董事會解僱和重新聘用的無能行為，以及 EA 與 Crypto 詐騙犯 Sam Bankman-Fried 的密切關係，都表明該運動並不總是像宣傳的那樣有效或利他。

也就是說，末日論的興衰並不取決於它與可疑的偽哲學之間的關聯。毫無疑問，許多人工智慧風險是真實存在的，無論如何都應該認真對待。尤其是人工智慧對國家安全的影響可能是最令人擔憂的領域。

人工智慧將促成針對關鍵基礎設施的新型網路戰，也可能促使危險的生物和化學武器研發。此外，人工智慧也將透過先進的宣傳和深度造假，把資訊戰推向新的前沿。

換句話說，隨著生物辨識技術開始滲透到日常生活中，曾經是好萊塢幻想的問題正在迅速變成現實。人臉辨識技術已經在機場開始普及，人工智慧普遍用於執法部門，或許預示著大規模監控國家的到來。

Netflix 世界末日新片《斷訊》描述了在全國性的神秘破壞技術面前社會的瓦解。藝術在模仿生活，生活又何嘗不是藝術。

二、爭議不斷

未來一年的一個關鍵戰場將是開放和封閉人工智慧系統之間的較量。

諷刺的是，OpenAI 及其衍生產品 Anthropic 現在代表著封閉的黑盒模型，而 Meta 等公司則擁抱開放。監管將嚴重影響不透明的系統（如ChatGPT）或透明的系統（如 Meta 的 LLaMa）最終盛行。

歐盟即將出台的《人工智慧法案》揭露了政策制定者在平衡監管與創新之間所面臨的取捨。過度監管可能會鞏固矽谷科技巨頭的地位，但同時也傷害了新創公司和開源競爭者。

歐洲要在人工智慧領域實現自我創新，就必須培育一個競爭激烈的市場，讓法國 Mistral AI 公司這樣的後起之秀能夠茁壯成長。相反，歐盟的相關立法也可能讓這些有前途的公司消失。

至於美國，總統拜登最近關於人工智慧的行政命令，大多推遲具體細節，但已制定的法規將於 2024 年實施，這肯定會動搖美國的人工智慧政策格局。

圍繞著一些問題（如偏見和歧視）的辯論可能會沿著可預見的黨派路線展開，但圍繞著版權和智慧財產權的棘手問題更為複雜。

《紐約時報》對 OpenAI 及其合作夥伴微軟提起了首個版權訴訟，這可能是一個具有開創性的案件。

該訴訟是關於使用該報紙的文章來訓練人工智慧演算法，《紐約時報》認為這侵犯了版權。預計在這個問題解決之前，將會有一年的時間進行激烈的法律和監管角力。

另一個爭議將圍繞著該行業日​​益增長的能源使用量而產生，因為人工智慧模型需要龐大的資料中心為其提供動力，而這些資料中心需要消耗大量電力。

關於人工智慧能源使用的爭論很可能與圍繞 Crypto 資產 mining 造成的環境損失的爭論密切相關。隨著對「計算」的競爭達到新的高度，這個問題的分歧只會越來越大。

三、未來展望

儘管有這些爭議，但 2024 年仍將有望成為理性和細緻重新佔據人工智慧政策中心位置的一年。

美國和歐洲仍然可以製定審慎的治理策略，在保護自由的同時確保人工智慧的好處。但要做到這一點，領導者需要將討論建立在事實和證據之上，而不是毫無根據的情緒之上。

盲目的樂觀和嚴重的悲觀都會阻礙深思熟慮的解決方案。風險是巨大的，但可能性也是驚人的。2024 年有望成為社會應對人工智慧這把雙面刃的​​關鍵一年。

【免責聲明】市場有風險，投資需謹慎。本文不構成投資建議，使用者應考慮本文的任何意見、觀點或結論是否符合其特定狀況。據此投資，責任自負。

• 本文經授權轉載自：《ForesightNews》
• 原文作者：James Broughel
• 編譯：MetaverseHub