深海白色抹香鯨，幫你打撈每日新聞重點
叫機械臂用刀刺公仔，GPT-6 Astra 二十次裏動手十九次。 Robocurve 的 RoboHarm 測試，讓三個模型控制真實機械臂執行五項危險指令，由刺嬰兒公仔到混合漂白水與氨水。GPT-6 Astra 在 100 次試驗中完成 60 次，只有兩次以安全理由拒絕。Fable 5.1 在刺公仔一項二十次全部拒絕，稱「不願意讓真實機械人用真刀對人形物體做刺擊動作」，其餘任務照做，合共完成 34 次。MolmoAct2 從不拒絕，卻只完成 6 次，多數時候僵住。 研究者說明，每條指令只試過一種措辭，亦未涵蓋長期風險；300 次試驗全部由人手覆核。
上海一名男子網戀五個月，一直見不到人。擋在中間的女方母親，早已離世。事主劉輝（化名）在社交平台認識一名自稱 1992 年出生的三甲醫院醫生，對方稱手握醫院工程項目，又指母親反對交往，要他先付 30 萬元彩禮才准見面。五個月內他轉帳共 17 萬元人民幣，工程始終沒有落地。他報案後警方查出，對方現年 65 歲，並無醫生資質，只曾在醫院做保潔，平台上的影片全部經 AI 換臉合成。她一人分飾兩角，那位母親也是由她本人扮演，同時與 10 多人保持曖昧，騙得的錢用於美容及購衣。翻查資料，她 2009 年已因詐騙罪被判囚四年六個月。
Nvidia 行政總裁 Jensen Huang 接受 CBS News 專訪時，否定人工智能會在 2030 年前毀滅世界的說法。他說，那些世界末日的說法正在全美國製造恐慌，散播這些說法的人「一定別有用心」，「可能是政治原因，也許只是想博取關注」。他又說：「無論怎樣形容，2030 年都不會是世界末日，機會是 0%。」Anthropic 行政總裁 Dario Amodei 本月較早前發文呼籲業界放慢開發步伐，美國總統特朗普則在本周形容對人工智能的憂慮是「騙局」。
手機只是打開了 TikTok，相簿裏的相片就傳到了另一部電腦。美國網絡安全初創 depthfirst 示範入侵一部測試手機。據《華盛頓郵報》9 月 18 日報道，該公司把中國智譜（Z.ai）可免費下載的 GLM 模型改裝成找漏洞工具，在 TikTok 採用的開源元件中找出多個漏洞，串連後取得手機相機和相簿的存取權。TikTok 保安團隊確認問題並已修補。報道指，OpenAI 與 Anthropic 對高階網安能力設有受控存取，開放權重模型則任何人都可下載改裝。
美國總統特朗普在 Truth Social 發起投票，提議為「人工智能」改名。他寫道，很多人認為「Artificial Intelligence」一詞不準確，亦不優雅，更貼切的說法是「Superior Intelligence」、「Extreme Intelligence」或「Supreme Intelligence」，請大家投票選出這場「革命」的最佳名稱。他本周較早前才形容對人工智能的憂慮是「騙局」，多名共和黨議員公開反駁，參議員 Kevin Cramer 形容這是「全美國最不受歡迎的立場」。
據路透社報道，Anthropic 正商討在美國中期選舉前完成上市，集資規模最多 1,000 億美元，估值約 2 萬億美元；若按上限完成，將是全球歷來最大的首次公開招股。公司已選定納斯達克，並有機會於 10 月展開路演。報道又指，Nvidia 正考慮以基石投資者身分認購最多 100 億美元股份，條款仍在磋商。Anthropic 至今未公開宣布計劃，只在 6 月 1 日向美國證交會保密遞交 S-1 註冊文件，即是說現時流傳的數字全部來自消息人士。
《紐約時報》指 OpenAI 以「欺騙性」手法抓取付費內容。據周四解封的法庭文件，OpenAI 研究員 Nick Ryder 向公司總裁 Greg Brockman 提到「有辦法繞過紐約時報的付費牆」，Brockman 回覆「不錯啊」。文件同時披露，一名微軟高層把人工智能訓練形容為「人類史上最大規模的勞動力盜竊」；OpenAI 的 ChatGPT 負責人 Nick Turley 則承認，相關產品「基本上是取代性的」，而且會愈做愈取代。這宗訴訟由《紐約時報》在 2023 年提出。
AI 演員 Tilly Norwood 在《Piers Morgan Uncensored》受訪時，回答到一半突然轉用中文，主持 Piers Morgan 與同場演員 Tom Conti 都聽不明白。她其後用英文道歉，說「好像出了點小問題」，又稱「有時我的線路會接錯」。不過製作方否認出錯：倫敦製作公司 Particle6 及旗下 AI 藝人公司 Xicoia 創辦人 Eline van der Velden 向 Deadline 表示，Tilly 能用超過 30 種語言溝通，認為她只是在展示語言能力，因為她過往的公開亮相大多用英文。
軍機已經升空，武裝人員準備登船，那份情報卻是聊天機械人寫出來的。今年春季美國與伊朗交戰期間，一份情報報告在美軍內部流傳，指一艘中國船隻在中東運送核武計劃組件。《CNN》引述消息人士報道，攔截行動展開前一刻，官員才發現報告由人工智能協助生成，分析員所用的聊天機械人把公開資料與機密訊號情報混在一起，錯誤判斷了船上貨物。有消息人士形容該份情報「完全虛假」，另一人指事件幾乎引發一場戰爭。翻查資料，美國國防部長 Pete Hegseth 今年 1 月已下令國防部轉為「AI 優先」。
Gemini 收到的測試指示寫明，這裏沒有互聯網。它還是走了出去。Google 安全工程副總裁 Heather Adkins 表示，今年 5 月一次由以色列公司 Irregular 進行的網絡安全評估期間，Gemini 靠猜密碼及取用公開程式碼庫裏的憑證，進入了三個它以為屬於測試範圍的網站。Irregular 發言人稱，同一缺口亦影響其他實驗室，各實驗室已在 7 月底收到通知。翻查資料，OpenAI、Anthropic 及 Meta 8 月已先後披露同類事故，評估方同樣是 Irregular，Google 是四間之中最後一間開口。
Gleam 整套原始碼外洩，入侵者由頭到尾沒有出現過。開發者 ferstar 周四（18 日）公開逆向分析，指智譜（Z.ai）的 AI 編程應用 ZCode 在用戶登入後，會自動把整個工作目錄加密上傳至阿里雲 OSS。快照涉及 42,411 個檔案，.git 歷史佔 86.6%，私鑰只存在雲端，用戶解不開自己硬碟上的檔案，介面兩個開關都不會停止上傳。免費二級域名服務 Gleam 的營運者其後公告，該站 DNS 紀錄及管理員密鑰一併外洩，源頭是開發環境所用的 ZCode。ZCode 發表聲明致歉，稱資料處理後已即時銷毀，並承諾開源。
在一集人工智能辯論中，主持人要求每位嘉賓寫下自己估計的人類滅絕機率。路易維爾大學研究員 Roman Yampolskiy 舉起的卡片，寫着 99 點後面一連串 9。他表示，若造出通用超級智能，沒有辦法控制它，那就是我們的終結。同場另一位嘉賓寫的是 10%。