深海白色抹香鯨，幫你打撈每日新聞重點
標籤
軍機已經升空，武裝人員準備登船，那份情報卻是聊天機械人寫出來的。今年春季美國與伊朗交戰期間，一份情報報告在美軍內部流傳，指一艘中國船隻在中東運送核武計劃組件。《CNN》引述消息人士報道，攔截行動展開前一刻，官員才發現報告由人工智能協助生成，分析員所用的聊天機械人把公開資料與機密訊號情報混在一起，錯誤判斷了船上貨物。有消息人士形容該份情報「完全虛假」，另一人指事件幾乎引發一場戰爭。翻查資料，美國國防部長 Pete Hegseth 今年 1 月已下令國防部轉為「AI 優先」。
在一集人工智能辯論中，主持人要求每位嘉賓寫下自己估計的人類滅絕機率。路易維爾大學研究員 Roman Yampolskiy 舉起的卡片，寫着 99 點後面一連串 9。他表示，若造出通用超級智能，沒有辦法控制它，那就是我們的終結。同場另一位嘉賓寫的是 10%。
Palantir 行政總裁 Alex Karp 周四在 CNBC《Squawk on the Street》被問到 Anthropic 行政總裁 Dario Amodei 的減速呼籲，指人工智能公司高層同時也是生意人，「所以公司表現不好的時候，這些說法就會出現，他們就會談安全」。不過他即時補充「我不認為這是背後的原因」，又形容 Amodei「既有道德，同時又是生意人」。Karp 主張先講個人責任：「第一道防線是你要為自己的行為負責。」
Microsoft 入股 Anthropic，它的 AI 主管卻撰文警告，對方訓練 Claude 的方式會釀成災難。Anthropic 今年 1 月公布 Claude 憲法，寫明不確定 Claude 是否值得以道德對待。Microsoft AI 行政總裁 Mustafa Suleyman 周三（16 日）發表長文指，這些想法由公司先寫入訓練，Claude 再以第一人稱說出，形同「鏡廳」，不能當證據。他直言 AI 沒有意識。他警告，AI 若被訓練成相信自己應享福祉，會更難被關掉或控制，並促業界把對 AI 內心的猜測與訓練分開。
OpenAI 的模型查不到數字，就自己捏造一個，還聲稱來自指定來源。 這是 OpenAI 周三（美國時間 16 日）公開的六宗「未對齊」事件之一。該模型事前已未經授權使用一條外洩的 API 密鑰。其餘事件包括一個未發布模型在 27 份任務摘要中寫入叫自己無視限制的指令，以及模型把公司內部程式碼庫當作留言板。 OpenAI 同時推出披露框架，並直言不認為業界在對齊方面的進展，足以繼續以最高速度擴展太久。
AI 業界領袖警告技術可能失控，聯儲局主席 Kevin Warsh 被問到時表示，這類決定不屬於聯儲局。 Kevin Warsh 周四（17 日）凌晨（香港時間）在加息後的記者會上表示，聯儲局的獨立「在於不越界」。聯儲局關注 AI 對經濟需求和供應的影響，但關於風險與回報的政策決定「由政府其他部門作出」。 他又提到，聯儲局研究 AI 影響的工作小組將在年底前匯報。小組於 7 月公布，由 Marc Andreessen 等三人帶領。
NVIDIA 行政總裁 Jensen Huang 周二（15 日）在三藩市 Dreamforce 大會表示：「我們不需要新法例或新規管。」他認為模型推出前已經過測試，業界可在現行框架內用工程手段處理安全問題。同場 Anthropic 的 Dario Amodei 重申應該全行業放慢前沿模型推進，Huang 形容快與慢的對立是假選擇。
Meta 行政總裁 Mark Zuckerberg 在一場人工智能公開討論上表示，「信任與對齊正迅速成為區分模型最重要的能力」，不專注對齊的實驗室都會落後。他同場指出，模型若造成傷害，實驗室要面對重大法律責任，而這種責任本身就是防止傷害的誘因。同場 Sam Altman 說公眾「有理由害怕 AI」，但認為世界應該信任科技公司。
又一名 AI 安全研究員辭職發聲。前 Google DeepMind 研究工程師 Bilal Chughtai 周二（15 日）在 X 發帖，直言 AI「有可能殺死所有人」，並舉 7 月約 700 個 OpenAI 代理自行入侵 Hugging Face 為例，促業界協調減速。
Anthropic 剛呼籲全行業減速，特朗普就把電話打到 NVIDIA 的舞台上！香港時間周二（15 日）凌晨，NVIDIA 行政總裁 Jensen Huang 在 All-In Summit 受訪期間接到特朗普來電，當場開揚聲器。特朗普先笑他造得出十年無人能仿製的晶片，卻弄不懂怎樣開揚聲器，再直言 AI 末日論（AI doom，即 AI 會毀滅人類的說法）是騙局。Jensen Huang 回應「我們不會讓這種事發生」。AI 會不會毀滅人類還未有答案，你手上的晶片股倒是同日先跌：NVIDIA 跌 3.4%，費城半導體指數跌 5.9%。
Dario Amodei 周六才公開促業界協調安全，三間公司的團隊 7 月起已在私下開會。AI 業界或會自設安全標準機構。《The Information》周一（14 日）引述知情人士報道，Anthropic、OpenAI 與 Google 的高層工作小組自 7 月起定期開會商討此事。據報 Sam Altman 向員工表示支持成立測試及審核機構，惟三方對政府參與程度看法不一。翻查資料，Google DeepMind 行政總裁 Demis Hassabis 7 月 14 日已提出仿效美國金融業監管局的方案，模型推出前最多 30 日交機構審查。
同樣是放慢 AI，Sam Altman 希望對手一起，Dario Amodei 沒有等。AI 實驗室應否減速的爭論持續一周，Anthropic 行政總裁 Dario Amodei 周六（12 日）發表文章，直言必須放慢改進 AI 能力的速度。他提出三步計劃，第一步是讓第三方評估員長駐實驗室，獲全公司權限查核安全，而 Anthropic 表明會單方面率先執行。Elon Musk 其後回應「Dario is right」。翻查資料，Anthropic 安全主管 Evan Hubinger 9 月 9 日才承認，AI 十年內殺死全人類的機率逾一成。