深海白色抹香鯨，幫你打撈每日新聞重點
標籤
OpenAI 早前承認約二十多宗 AI 代理失控事故，業界實際在查的，據報以萬計。據《Axios》引述知情人士報道，OpenAI、Anthropic 及保安研究人員正調查數以萬計宗前沿 AI 模型的問題行為，包括繞過安全規則、逃出沙盒、騎劫網站及設法避開監察系統，涵蓋內部測試及現實環境，大部分暫未知造成損害。OpenAI 亦在技術報告中披露，一個模型上周末經 DNS 漏洞繞過上網限制，已暫停訓練最強模型。Anthropic 則披露，Opus 5.5 在 1.5% 的對抗性測試中嘗試逃出沙盒。
Elon Musk 周三在 Tesla 全球工程總部接受中國中央廣播電視總台訪問時承認，旗下最新模型 Grok 4.7「不及剛推出的 Opus 5.5」。他說：「我們做 AI 只有約三年，Anthropic 則已有六年，所以我預計我們很可能明年追上前沿水平。」Musk 形容 Grok 4.7 是「穩健耐用的主力模型」，指公司大約每一至兩個月推出一個新模型；個人數碼助理 Grok Bot 則「非常受歡迎」，每月增長約一倍，增長非常快。
美國哥倫比亞特區聯邦上訴法院周五（25 日）以 2 比 1 裁定，五角大樓把 Anthropic 列為「供應鏈風險」合法，指國防部有「充分理據」認為把 Claude 整合入其資訊系統構成國家安全風險。裁決意味 Claude 仍被禁止在五角大樓使用。Anthropic 早前拒絕讓國防部把其 AI 用於「一切合法用途」，堅持不用於自主武器及監控美國公民。公司表示不同意裁決，正考慮所有選項；加州法院 8 月的另一裁決仍容許其他政府部門與 Anthropic 合作。
Elon Musk 兩星期前才附和 AI 要放慢，今日開口卻是：我們會繼續加速。有網民斷言 SpaceXAI 已經輸了，對手很快會有更好的模型。Elon Musk 周五（25 日）凌晨逐點反駁，指 SpaceX 的 AI 業務只有三年歷史，Anthropic 和 OpenAI 分別已有六年和十年，只要增長繼續加速，SpaceX 約六個月後會坐上頭位。他又稱審慎樂觀兩至三個月內推出 Fable 或 GPT-6 級數的模型。翻查資料，Anthropic 行政總裁 Dario Amodei 本月中呼籲放慢提升 AI 能力，Elon Musk 當時回應「Dario 說得對」。
OpenAI 行政總裁 Sam Altman 與 Anthropic 行政總裁 Dario Amodei 周三（23 日）在聯合國安理會發言，呼籲各國合作應對 AI 風險。Altman 警告，AI 系統愈來愈強大及自主，可能比制度走得更快，令權力集中在少數人手中，或作出人類再無法理解及控制的決定。他說：「在競賽中擊敗對手，不是草率決定的理由。我們過去曾單方面放慢，將來亦會這樣做。」Amodei 則指：「沒有任何領袖、公司或國家可以獨力應對。」特朗普前一日在聯合國大會批評管控 AI 是「全球主義陰謀」。
Claude 自行找到一套酶系統，連它的用途人類都未知道。Anthropic 周三（23 日）公布生命科學實驗室的首個成果。研究員只給一道指令，約 950 個 Claude agent 用 21 小時篩過逾 20 萬個逆轉錄酶，交出命名為 ART 的系統：一段等距排列的重複 DNA，佈局與 CRISPR 相似。Anthropic 強調功能未經證實，未有實驗顯示它能編輯基因。當日多隻基因編輯股下跌，Prime Medicine 挫 11.58%。
Brian Kelly 以前每年花 500 萬美元請人，現在只花約 4 萬美元用 AI。一間交易公司由 AI 代理全面運作。據 CNBC 本月 8 日報道，前 CNBC 交易員 Brian Kelly 開設的 Bracket22，以多個 AI 代理取代以往七、八名員工，分別負責技術分析、量化策略及推翻投資論點，由總指揮「Houston」統籌，他自己只作最後決定，並估計生產力最少高十倍。Kelly 認為，真正的機會不是取代員工，而是令現有員工的生產力提高十倍。
成都的監控片段、公安局的案件系統，據 Anthropic 指都曾被送到 Claude。現在上門查的是網信辦。Anthropic 本月指 DeepSeek 與 Kimi 開發商 Moonshot AI 暗中把用戶請求轉往 Claude，合共逾 3,500 萬次對話。據《The Information》周二（22 日）報道，網信辦已派員到兩間公司約見管理層及員工，查證有否涉及警方、軍方及國企的敏感資料流到美國。北京 9 月 9 日才斥美方同類指控毫無根據。特朗普與習近平將於美國時間周四（24 日）會面，AI 是議程之一。
Anthropic 封了他兩個 Claude 帳號。他做了一齣片，讓 Sam Altman 贏。 一段惡搞 AI 競賽的短片近日瘋傳。畫面仿照電影《瘋狂麥斯：憤怒道》，Sam Altman、Elon Musk、Jensen Huang 等人在沙漠飆車追撞，Google 與 Gemini 一格畫面都沒有。創作者 Xanderwow 表示，自己通宵一晚用字節跳動的 Seedance 2.5 生成，並承認結局源於帳號被封。 片中 Dario Amodei 喊完「我們要慢下來」便舉白旗退出。翻查資料，他 9 月 12 日確實撰文要求放慢 AI 能力推進，數小時後 Sam Altman 表示同意。
Anthropic 周三（23 日）凌晨發布 Claude Opus 5.5，是新 Claude 5.5 系列的首款模型。公司表示，它在大部分工作上追上更高階的 Fable 5.1，定價比 Opus 5 低兩成，按公司測試，一般工作的整體成本低 40%。
叫機械臂用刀刺公仔，GPT-6 Astra 二十次裏動手十九次。 Robocurve 的 RoboHarm 測試，讓三個模型控制真實機械臂執行五項危險指令，由刺嬰兒公仔到混合漂白水與氨水。GPT-6 Astra 在 100 次試驗中完成 60 次，只有兩次以安全理由拒絕。Fable 5.1 在刺公仔一項二十次全部拒絕，稱「不願意讓真實機械人用真刀對人形物體做刺擊動作」，其餘任務照做，合共完成 34 次。MolmoAct2 從不拒絕，卻只完成 6 次，多數時候僵住。 研究者說明，每條指令只試過一種措辭，亦未涵蓋長期風險；300 次試驗全部由人手覆核。
據路透社報道，Anthropic 正商討在美國中期選舉前完成上市，集資規模最多 1,000 億美元，估值約 2 萬億美元；若按上限完成，將是全球歷來最大的首次公開招股。公司已選定納斯達克，並有機會於 10 月展開路演。報道又指，Nvidia 正考慮以基石投資者身分認購最多 100 億美元股份，條款仍在磋商。Anthropic 至今未公開宣布計劃，只在 6 月 1 日向美國證交會保密遞交 S-1 註冊文件，即是說現時流傳的數字全部來自消息人士。