ChatGPT才不萬能！瑞波技術長：要找正解就別用AI，他為何這麼說

與風險並存的 AI 技術

隨著人工智慧（AI）技術的興起，許多行業領域都開始使用和引進 AI，嘗試提高工作效率。但與此同時，不少專家學者都開始研究 AI 可能帶來的風險，並呼籲政府應該立即監管。 

今年 3 月，未來生命研究所（Future of Life Institute）就曾公布一封名為「暫停巨型 AI 實驗」的公開信，信中寫道，具有與人類競爭智能的人工智能系統可能對社會和人類構成深遠的風險，為此呼籲所有 AI 實驗室立即暫停訓練比 GPT-4 更強大的 AI 系統，而包括辛頓、馬庫斯和馬斯克在內，高達 1,079 名科技領袖和研究人員均簽署了這封公開信。 

擔心危害人類社會！馬斯克與專家連署，請求各界暫停 AI 開發

AI 的答案值得信任嗎？

除了風險外，AI 的「真實性」也是常常被拿出來討論的問題，平常在使用 ChatGPT 等 AI 產品時，你有沒有過這樣的疑問——AI 的回答到底是不是正確的？ 

先看看《加密城市》此前的報導，在今年 2 月時，馬斯克就曾公開批評 OpenAI ，他指出 ChatGPT 的文本和人類的創作難以分辨，如果騙子掌握了這項技術，後果將難以想像。此外，政治家也可能利用 ChatGPT 撰寫多種文章，試圖影響公眾輿論。 馬斯克認為，在人類不斷研製和開發 AI 的過程中，或許也正在被 AI 一步步侵蝕。 

馬斯克：ChatGPT 比你想的更危險！「這一點」讓他最害怕

馬斯克擔憂似乎也快速得到了證實，今年 5 月，知名交易所幣安（Binance）透露，最近幾週突然收到了很多來自政府機關的調查，除了詢問幣安執行長趙長鵬（CZ）是不是中國共產黨的成員外，還問到 CZ 是否曾在中國國營石油集團工作，而深究消息來源時，這些說詞居然是來 AI 聊天機器人 ChatGPT。 

ChatGPT散播假消息！幣安趙長鵬竟成「共產黨員」，AI本人怎麼說

幣安戰略長希爾曼（Patrick Hillmann）就表示，他試過以「趙長鵬是共產黨黨員嗎」詢問 ChatGPT 時並沒有成功；但若在問題內加入關鍵字「中國石油集團」，ChatGPT 就會一反前面的說法，聲稱趙長鵬是該集團旗下的共青團的成員，而佐證居然僅僅是一個假的 Linkedin 履歷頁面，以及一篇已經失效的《富比士》（Forbes）報導。 

瑞波技術長抨擊 AI

對於這樣的 AI 亂象，瑞波（Ripple）首席技術長 David Schwartz 也有話要說，他在一則 5 月 27 日引用的推文中，回覆著名律師 Steve Vladeck 所分享的，近日爆出有律師用 AI 偽造法庭文件的案例。推文中提到，ChatGPT 的答案看似正確，實則漏洞百出：「提醒一下，ChatGPT 和其他 LLM 生成式 AI 程式提供的答案，儘管乍看之下是正確的，但這並不意味著是真實的答案。如果您需要的是正確而且真實的答案，請不要使用生成式 AI。」 

對此律師 Steve Vladeck 也建議， 永遠不要使用 ChatGPT 或類似工具進行法律研究，更不試將偽造的內容用在教育學生上。 

David Schwartz 則擔憂，由 AI 聊天機器人所生成的假文件，與真實文件之間的差別難以區分，即使是有經驗的研究人員，也無法在短時間內確定哪一個是真實的。他特別呼籲大眾，切莫過於信任如 ChatGPT 這樣的生成式 AI：「 ChatGPT 的工作，是為您在大數據之中，找出與問題最相配且最廣泛的答案，但這個答案是否真實，根本不在 ChatGPT 的考慮範圍內。」 

在政界與商界中，利用假消息或聳動消息散播「FUD」的情況並不少見，媒體的抹黑、造謠和未經查證、捕風捉影的報導，也早已屢見不鮮，而在 AI 快速發展後，這樣的問題可能只會更嚴重。 

就有專家指出，未來的 AI 聊天機器人會更個性化且即時，而且會嘗試讓文字變得「更有說服力」，複製貼上的痕跡會越來越淡。而這很可能會讓 AI 淪為政治武器，讓假消息會變得更便宜、更容易生產，且更容易產生誤導作用，讓人信以為真。