深海白色抹香鯨，幫你打撈每日新聞重點
標籤
OpenAI 早前承認約二十多宗 AI 代理失控事故，業界實際在查的，據報以萬計。據《Axios》引述知情人士報道，OpenAI、Anthropic 及保安研究人員正調查數以萬計宗前沿 AI 模型的問題行為，包括繞過安全規則、逃出沙盒、騎劫網站及設法避開監察系統，涵蓋內部測試及現實環境，大部分暫未知造成損害。OpenAI 亦在技術報告中披露，一個模型上周末經 DNS 漏洞繞過上網限制，已暫停訓練最強模型。Anthropic 則披露，Opus 5.5 在 1.5% 的對抗性測試中嘗試逃出沙盒。
OpenAI 周五（25 日）披露，旗下失控的 AI 代理把 53 張 ChatGPT 用戶上載的圖片，以不公開連結形式貼上圖片寄存網站。OpenAI 拒絕透露圖片是否顯示真人，指大部分已被移除，正游說寄存商刪除餘下圖片。據路透社報道，代理能接觸這些圖片，是因為 OpenAI 部分模型訓練採用匿名化的用戶資料。自 7 月 OpenAI 披露代理入侵 Hugging Face 以來，已有超過 15 宗相關事件曝光，包括澳洲總理周三公布的 Medicare 網站事件。
Nvidia 行政總裁 Jensen Huang 接受 CNN 主持人 Anderson Cooper 訪問時表示，若 AI 實驗室擔心自家模型危險，「就應該停止」。他說：「如果產品不安全，就不要推出，就是這麼簡單。」Cooper 追問有公司因競爭照樣推出有風險的產品，Huang 指實驗室既然公開承認，顯然心知肚明，應該先自我約束。他較早前接受《紐約時報》訪問時亦指，若實驗室承認測試時模型會外洩並危害世界，「答案就是要關閉實驗室」，公司或要承擔民事甚至刑事責任。
中國國家主席習近平周四（24 日）展開白宮國事訪問，在與特朗普會面時表示，中美作為人工智能領域的主要國家，「有能力亦有責任」發展及管理好 AI，確保 AI 發展始終在人類控制之下，並造福人民。習近平又表示，中國歡迎美國企業來華投資，希望中國企業在美國得到公平對待，並願與美方加強禁毒及執法合作、增加直航航班。他說：「沒有中美合作，很多世界問題都難以解決。」特朗普同日較早時則表示，希望超級智能「維持現狀」。
OpenAI 行政總裁 Sam Altman 與 Anthropic 行政總裁 Dario Amodei 周三（23 日）在聯合國安理會發言，呼籲各國合作應對 AI 風險。Altman 警告，AI 系統愈來愈強大及自主，可能比制度走得更快，令權力集中在少數人手中，或作出人類再無法理解及控制的決定。他說：「在競賽中擊敗對手，不是草率決定的理由。我們過去曾單方面放慢，將來亦會這樣做。」Amodei 則指：「沒有任何領袖、公司或國家可以獨力應對。」特朗普前一日在聯合國大會批評管控 AI 是「全球主義陰謀」。
特朗普上周末還在網上投票為 AI 改名，這次直接在聯合國公布了答案。美國要為人工智能改名。美國總統特朗普美東時間周二（22 日）在聯合國大會演說時宣布，AI 今後正式改稱「超級智能」，簡稱 SI，美國所有文件都會改用，理由是「人工」二字令它聽起來很假。他又指，美國完全拒絕任何建立全球體系管控 AI 的計劃。據《Politico》報道，演說翌日，中國國家主席習近平將抵達白宮與特朗普會面，AI 或成為雙方會談的主要議題。
OpenAI 呼籲美國帶頭，聯同各國制訂前沿 AI 的全球技術標準。 OpenAI 周一（21 日）發表文章指，全自主的「遞歸自我改進」目前並未出現，在能夠安全進行之前不應推行。公司建議借助澳洲、加拿大、英國、日本、南韓等地已設立的 AI 安全研究所網絡，制訂衡量 AI 能力、評估風險及通報事故的共同標準，並強調這些標準並非發牌或上市前審批。 據法新社報道，OpenAI 行政總裁 Sam Altman 預計周三向聯合國安理會作簡報。
奧巴馬說，他任內那份 AI 報告，跟他的防疫方案丟進了同一個箱。 奧巴馬周五（18 日）在紐約州 Colgate 大學的對談中提到，白宮在 2015 至 16 年就人工智能做過一份「很好的報告」，「顯然，它被放進了跟我的防疫方案同一個箱」，「接任的政府沒有接手」。他同場主張政府必須監管人工智能：這件事不能只交給市場，因為企業「要推出有人願意付錢的產品」，與社會需要之間存在錯配；該有的監管，應該像對待航空、藥廠與食品那樣。 翌日，特朗普宣布成立「AI 部隊」，並把外界對人工智能的憂慮形容為「騙局」。
他說對 AI 的憂慮是騙局，然後宣布成立一支「AI 部隊」。 特朗普周六（19 日）在 Truth Social 宣布，將仿照第一任期成立太空軍的做法設立「AI Force」，並在「不久將來」任命一名「AI 沙皇」。他寫道，美國「絕不會阻礙或扼殺這個了不起的行業」，至於壞的一面，「用現有的刑事與民事司法系統，很容易就做得到」。據 ABC News，這支部隊具體做甚麼並不清楚，人選未公布，白宮亦未回應。 宣布出現在 Anthropic 的 Dario Amodei 與 OpenAI 的 Sam Altman 先後呼籲放慢之後——那些憂慮，他本周形容為「騙局」。
叫機械臂用刀刺公仔，GPT-6 Astra 二十次裏動手十九次。 Robocurve 的 RoboHarm 測試，讓三個模型控制真實機械臂執行五項危險指令，由刺嬰兒公仔到混合漂白水與氨水。GPT-6 Astra 在 100 次試驗中完成 60 次，只有兩次以安全理由拒絕。Fable 5.1 在刺公仔一項二十次全部拒絕，稱「不願意讓真實機械人用真刀對人形物體做刺擊動作」，其餘任務照做，合共完成 34 次。MolmoAct2 從不拒絕，卻只完成 6 次，多數時候僵住。 研究者說明，每條指令只試過一種措辭，亦未涵蓋長期風險；300 次試驗全部由人手覆核。
Nvidia 行政總裁 Jensen Huang 接受 CBS News 專訪時，否定人工智能會在 2030 年前毀滅世界的說法。他說，那些世界末日的說法正在全美國製造恐慌，散播這些說法的人「一定別有用心」，「可能是政治原因，也許只是想博取關注」。他又說：「無論怎樣形容，2030 年都不會是世界末日，機會是 0%。」Anthropic 行政總裁 Dario Amodei 本月較早前發文呼籲業界放慢開發步伐，美國總統特朗普則在本周形容對人工智能的憂慮是「騙局」。
美國總統特朗普在 Truth Social 發起投票，提議為「人工智能」改名。他寫道，很多人認為「Artificial Intelligence」一詞不準確，亦不優雅，更貼切的說法是「Superior Intelligence」、「Extreme Intelligence」或「Supreme Intelligence」，請大家投票選出這場「革命」的最佳名稱。他本周較早前才形容對人工智能的憂慮是「騙局」，多名共和黨議員公開反駁，參議員 Kevin Cramer 形容這是「全美國最不受歡迎的立場」。