上週才說快觸線、這週就確認 Anthropic上市前宣布AI已觸發安全警報

Anthropic一周前才向潛在投資人表示，AI加速自身研發，可能「即將」觸發公司一項關鍵安全警報。到了周二，公司在訂定創紀錄首次公開發行（IPO）價格區間的同一份文件中，確認已達到這項門檻。

Anthropic在修訂版公開說明書中寫道：「我們已判定達到這項門檻。」公司表示，這項判斷是基於「對未來模型的預期及整體進展速度，而非目前模型已展現的能力」。

這項安全門檻訂於Anthropic的「負責任擴展政策」，該政策要求隨著AI能力增強，逐步採取更嚴格的安全措施。

當AI參與公司研發的程度，足以讓模型進步速度提高至約兩倍時，就會觸發這項門檻。依據政策，這樣的速度相當於將2018至2024年間需要兩年才能達成的AI進展，壓縮至一年內完成。

文件指出，AI「已在加速我們的研發」。跨越門檻意味著必須增設防護措施，並非停止運作。

外界擔心，AI自我改進的速度可能超越人類檢查的能力。2023年，Anthropic執行長阿莫迪（Dario Amodei）曾與其他AI領袖共同警告，應將「AI造成的滅絕風險」與大流行病、核戰並列為全球優先處理的議題。

Anthropic強調，人類仍掌握主導權。文件表示，公司不預期能在「缺乏人類實質監督或理解的情況下」，安全地讓Claude「完全自主設計及打造後續世代的前沿模型」，並正考慮調整政策，以「確保人類維持控制權」。

獨立非營利AI測試機構METR也觀察到同樣的加速趨勢。該機構上週估計，自2025年10月以來，Anthropic模型的進步速度已提高至原先的近兩倍。

METR在另一份評估中指出，Anthropic於8月主張自身仍未達到門檻的論述「言過其實」，並表示公司「有可能」早在7月中旬便已跨越這條界線。

IPO估值上看1.4兆美元

Anthropic周二啟動上市前與投資人會面的路演，並將IPO價格區間訂為每股70至78美元。以完全稀釋後股數計算，估值最高約達1.4兆美元。根據媒體報導，最快可能於11月19日掛牌交易。

多家市場重量級企業參與這次IPO。輝達(NVDA-US) 與Alphabet(GOOGL-US) 旗下Google將各以IPO價格購入100億美元的Anthropic股票，這是總額260億美元私募案的一部分。

其他參與者包括AMD(AMD-US)）、博通(AVGO-US)、美光(MU-US)、微軟(MSFT-US)及台積電(2330-TW)(TSM-US) 。亞馬遜(AMZN-US) 與Google目前已持有大量股份。

對投資人而言，公開說明書中列舉各種可能出錯情境的風險因素章節，描繪了更嚴峻的前景。

文件警告，一旦發生災難性AI事件，「任何單一保險公司，甚至可能連整個保險業」，都無力承擔相關損失。

但並非所有人都全盤接受這些警告。星座研究公司（Constellation Research）創辦人Ray Wang上月表示：「如同所有S-1申報文件，這些風險都被刻意誇大。」

文件改用「超級智慧」

同一份文件還出現一項較不顯眼的變動。Anthropic援引川普總統9月29日簽署、要求聯邦機關使用「超級智慧」（super intelligence）一詞的行政命令，將文件部分「AI」用語替換為「超級智慧」。

根據《Yahoo Finance》統計，相較於11月2日版本，新版文件提及「AI」的次數減少約四分之一，不過文件仍將兩者視為可互換的詞彙。

至於安全門檻，Anthropic表示，仍在評估跨越門檻的意涵，並將發布進一步報告。公司也揭露了一項更大的風險。

文件寫道：「隨著我們愈來愈多地運用Claude加速Anthropic內部的進展，組織可能逐漸無法掌握某些流程，甚至演變至任何個人或人類群體都難以理解及控制的程度。」