AI 安全研究員舉牌：造出通用超級智能就控制不了
在一集人工智能辯論中，主持人要求每位嘉賓寫下自己估計的人類滅絕機率。路易維爾大學研究員 Roman Yampolskiy 舉起的卡片，寫着 99 點後面一連串 9。他表示，若造出通用超級智能，沒有辦法控制它，那就是我們的終結。同場另一位嘉賓寫的是 10%。
標籤
Anthropic
FBI 上周才點名 Alibaba 抄襲 美國政府網站照用 Qwen 搜法規
聯邦公報用 Qwen 搜法規，跑了多久國家檔案局至今不肯說。 美國聯邦公報是政府公布行政命令及法規草案的官方渠道，由國家檔案局營運。《路透社》9 月 17 日報道，其進階搜尋頁曾提供兩個由 Alibaba 開源模型 Qwen 驅動的選項，在美國時間周三（16 日）網上傳開後同時被撤下，連原有的 Neural 模式亦一併移除，沒有任何公開的更新紀錄。國家檔案局及白宮均未回覆查詢，何時部署至今不明。 NSA、CISA 及 FBI 9 月 8 日聯合指 Alibaba 去年底蒸餾 Claude-4 及 GPT-5，中國駐美使館稱指控「毫無根據」。
研究員用 Claude 攻入 OpenAI 論壇 一路取得內部程式碼庫存取權
安全初創 Hacktron AI 披露，團隊 7 月用 Anthropic 的 Claude 攻破 OpenAI 社群論壇，再取得多名員工的 ChatGPT／Codex 帳戶，最終進入內部 GitHub 程式碼庫。這是在 OpenAI 漏洞賞金計劃下進行的測試，OpenAI 約 14 小時內修補，9 月 1 日發放 6,500 美元賞金。
Anthropic 把 Cowork 併入 Claude 對話 用戶不用再揀介面
Anthropic 把 Claude 的聊天介面與 Cowork 合併。美國時間 9 月 16 日起，用戶不用先判斷一件事交給哪一邊，改由 Claude 決定動用哪些能力。同場推出 Docs 與 Slides 測試版，文件與簡報可匯出成 PowerPoint 或 PDF。
TradingView 推官方 MCP 伺服器 AI 助手可讀行情 但不能落單
圖表平台 TradingView 推出官方 MCP 伺服器，進入公開測試。Claude、ChatGPT 等 AI 助手可直接讀取報價、歷史價格、基本面與新聞，毋須自行管理 API 金鑰；官方列明只做研究與數據，不能落單。工具分九類共四十多項，限 Essential 或以上計劃，每分鐘約 100 次請求。
Palantir CEO Alex Karp 回應 Amodei 減速呼籲：業界常在生意轉差時談安全
Palantir 行政總裁 Alex Karp 周四在 CNBC《Squawk on the Street》被問到 Anthropic 行政總裁 Dario Amodei 的減速呼籲，指人工智能公司高層同時也是生意人，「所以公司表現不好的時候，這些說法就會出現，他們就會談安全」。不過他即時補充「我不認為這是背後的原因」，又形容 Amodei「既有道德，同時又是生意人」。Karp 主張先講個人責任：「第一道防線是你要為自己的行為負責。」
Gary Gensler：AI 投資熱潮不太可能持續
美國證交會前主席 Gary Gensler 接受 CNBC 訪問時表示，現時「有一股很大的 AI 投資熱潮，但不太可能持續」，AI 公司一年至一年半後未必能夠那麼順利集資。他形容 Sam Altman 指現在不宜上市是「競爭對手之間的說法」，Anthropic 花了數以十億美元計資金，想趁市場升勢上市，但「今日以甚麼估值上市，之後都不會更高」。Gensler 又指，龐大的 AI 資本開支總會見頂回落，「問題只是何時，以及跌得多急」。
Microsoft AI 主管斥入股對象 Anthropic 訓練方式恐釀災難
Microsoft 入股 Anthropic，它的 AI 主管卻撰文警告，對方訓練 Claude 的方式會釀成災難。Anthropic 今年 1 月公布 Claude 憲法，寫明不確定 Claude 是否值得以道德對待。Microsoft AI 行政總裁 Mustafa Suleyman 周三（16 日）發表長文指，這些想法由公司先寫入訓練，Claude 再以第一人稱說出，形同「鏡廳」，不能當證據。他直言 AI 沒有意識。他警告，AI 若被訓練成相信自己應享福祉，會更難被關掉或控制，並促業界把對 AI 內心的猜測與訓練分開。
Michael Burry 斥 AI 減速論 只為上市造勢
AI 巨頭說技術危險到要放慢，Michael Burry 說這句話本身就是上市宣傳。Anthropic 行政總裁 Dario Amodei 9 月 12 日促業界放慢前沿模型開發，Sam Altman 與 Elon Musk 相繼附和，軟銀周一（14 日）在日本跌一成。《沽空大師》原型投資者 Michael Burry 同日在 X 斥減速論「自利」，直言上市需要吹噓，又指 LLM 不是 AI，也不會成為 AGI。據彭博報道，Anthropic 已選定 Nasdaq 招股，最快 10 月掛牌；OpenAI 則表明今年不會上市。
傳 AI 三強密議合組標準機構 DeepMind 7 月已有方案
Dario Amodei 周六才公開促業界協調安全，三間公司的團隊 7 月起已在私下開會。AI 業界或會自設安全標準機構。《The Information》周一（14 日）引述知情人士報道，Anthropic、OpenAI 與 Google 的高層工作小組自 7 月起定期開會商討此事。據報 Sam Altman 向員工表示支持成立測試及審核機構，惟三方對政府參與程度看法不一。翻查資料，Google DeepMind 行政總裁 Demis Hassabis 7 月 14 日已提出仿效美國金融業監管局的方案，模型推出前最多 30 日交機構審查。
Amodei 促全行業減速 Anthropic 先讓評估員入駐
同樣是放慢 AI，Sam Altman 希望對手一起，Dario Amodei 沒有等。AI 實驗室應否減速的爭論持續一周，Anthropic 行政總裁 Dario Amodei 周六（12 日）發表文章，直言必須放慢改進 AI 能力的速度。他提出三步計劃，第一步是讓第三方評估員長駐實驗室，獲全公司權限查核安全，而 Anthropic 表明會單方面率先執行。Elon Musk 其後回應「Dario is right」。翻查資料，Anthropic 安全主管 Evan Hubinger 9 月 9 日才承認，AI 十年內殺死全人類的機率逾一成。
AI 安全研究員接連離職 兩間對手公司同一個去處
Anthropic 與 Google DeepMind 各走了一名安全研究員。兩人去了同一處。AI 安全研究員接連離職。前 Anthropic 安全團隊主管 Joe Benton 與前 Google DeepMind 研究員 Josh Engels 同赴非牟利組織 METR。Benton 向 NBC News 表示，「公司就這些風險所作的一切披露，全部都是自願的」；Engels 形容業界沒有人在把關，「大家都在盡力，但沒有人會來救我們」。美國並無法例強制 AI 公司公開安全事故。翻查資料，Benton 8 月已離職，本周才公開原因。