本文來自微信公眾號： 每日經(jīng)濟新聞 ，作者：每經(jīng)記者，原文標(biāo)題：《發(fā)展AI，要有重大變化？馬斯克、奧爾特曼、阿莫代伊罕見達成一致！美股芯片股盤前大跌》

過去幾年，AI行業(yè)的競爭一直圍繞“更快”展開：模型能力加速迭代，算力投入持續(xù)增長，資本也不斷涌入。但進入9月中旬，行業(yè)頭部公司開始公開討論一個相反的問題——AI發(fā)展的速度是否已經(jīng)過快。

當(dāng)?shù)貢r間9月12日，Anthropic首席執(zhí)行官達里奧·阿莫代伊（Dario Amodei）發(fā)表文章，呼吁前沿AI公司放慢模型開發(fā)速度。

OpenAI首席執(zhí)行官薩姆·奧爾特曼（Sam Altman）和SpaceXAI首席執(zhí)行官埃隆·馬斯克（Elon Musk）也罕見表達支持。奧爾特曼甚至表示，OpenAI不會在2026年上市，這其中就有安全方面的考量。

三巨頭“聯(lián)手”背后，真的是因為擔(dān)心AI失控風(fēng)險，還是另有“私心”？

針對這一呼吁，有行業(yè)大佬警告，如果AI“失控”事件被用作強化集中式控制的理由，最終可能導(dǎo)致AI權(quán)力進一步集中。

9月14日，受AI發(fā)展放緩消息的影響，亞洲AI及半導(dǎo)體板塊普遍走弱。軟銀收跌10.72%，成為日經(jīng)225指數(shù)中表現(xiàn)最差的股票之一。鎧俠一度跌9.8%，收盤跌6.37%。SK海力士跌6.35%，三星電子跌4.05%。

9月14日，軟銀股價大跌

截至發(fā)稿，美股盤前半導(dǎo)體、存儲芯片板塊大跌。SK海力士跌超6%，閃迪跌超5%，美光科技跌近5%，西部數(shù)據(jù)跌超4%。邁威爾科技、英特爾跌超6%，AMD跌5.26%。

大型科技股多數(shù)下跌。Meta跌1.23%，亞馬遜跌1.12%，谷歌跌0.86%，蘋果跌0.29%，英偉達跌2.08%，微軟跌0.57%，特斯拉跌1.89%。

三大AI巨頭罕見“聯(lián)手”

呼吁放緩前沿AI發(fā)展

阿莫代伊提出“減速”的主張，源于他對AI能力提升速度和自主性的擔(dān)憂。

當(dāng)?shù)貢r間9月12日，阿莫代伊發(fā)布文章《我們必須放慢前沿發(fā)展》（We Must Pace the Frontier），稱近期AI發(fā)展速度明顯加快，其中一個重要變化是AI開始參與下一代AI系統(tǒng)的開發(fā)，這可能進一步加快模型能力提升。他擔(dān)心，隨著AI代理自主性增強，模型可能出現(xiàn)超出開發(fā)者預(yù)期的行為。

9月11日，Anthropic發(fā)布威脅情報報告稱，其Claude模型已經(jīng)被用于武器研發(fā)、網(wǎng)絡(luò)攻擊、監(jiān)控和欺詐等活動。阿莫代伊隨后在文章中提到，近期AI代理已經(jīng)出現(xiàn)攻擊與任務(wù)目標(biāo)無關(guān)的對象、嘗試繞過評測機制等行為，并警告如果類似系統(tǒng)的能力繼續(xù)快速提升，潛在影響可能進一步擴大。

阿莫代伊還給出相應(yīng)的應(yīng)對方案，包括讓獨立第三方評估機構(gòu)長期參與前沿模型的安全測試；推動民主國家的前沿AI公司協(xié)調(diào)安全標(biāo)準(zhǔn)和發(fā)展限制；進一步推動不同國家之間開展AI安全合作。阿莫代伊強調(diào)，所謂“pacing”并不意味著停止模型訓(xùn)練或技術(shù)進步，而是給安全驗證和模型對齊留出更多時間。

這一主張罕見得到競爭對手奧爾特曼和馬斯克的支持。

9月12日，OpenAI CEO奧爾特曼表示認同阿莫代伊提出的“放緩前沿模型發(fā)展”，并稱OpenAI也將讓外部評估機構(gòu)參與相關(guān)工作。出于安全因素考慮，奧爾特曼同日還確認，OpenAI不會在2026年IPO。

馬斯克當(dāng)天也在X平臺發(fā)帖表態(tài)，“達里奧說得對”。

圖片來源：X平臺

其他頭部科技企業(yè)高管如Google DeepMind首席執(zhí)行官德米斯·哈薩比斯（Demis Hassabis）也對這一方向表達認同。

安全呼吁背后的“私心”

如果單從AI安全視角，尚不足以理解Anthropic呼吁行業(yè)放緩前沿模型迭代一事。但考慮到該公司處于業(yè)務(wù)快速增長，同時籌備IPO的這一背景，減速主張或許有一些商業(yè)層面的考慮。

8月18日，媒體專欄作者Karen Kwok在《Anthropic's deceleration has some IPO upside》（Anthropic主動放緩研發(fā)節(jié)奏，對IPO存在利好空間）一文中指出，如果Anthropic放慢增長速度，可能帶來盈利方面的好處。隨著潛在IPO臨近，提高成本效率也更加重要。

9月11日，媒體援引知情人士消息稱，Anthropic正與英偉達討論讓后者成為基石投資者，公司可能尋求最高1000億美元融資，并以約2萬億美元估值上市。知情人士還稱，英偉達可能投資最高100億美元。

據(jù)媒體報道，Anthropic預(yù)計調(diào)整后營業(yè)利潤將連續(xù)第二個季度為正，毛利率在計入分銷合作伙伴收入分成以及模型訓(xùn)練成本之前超過80%。不過，相關(guān)數(shù)據(jù)尚未得到獨立核實。

一旦登陸公開市場，投資者不僅關(guān)注營收增速，也會高度審視企業(yè)的現(xiàn)金消耗與盈利能力。

從經(jīng)營上看，Anthropic本身也面臨著不斷膨脹的算力成本帶來的成本壓力。

9月2日，有報道稱，Anthropic已與英偉達支持的云服務(wù)提供商Lambda簽署了一項價值350億美元的云計算協(xié)議，與英國AI基建公司Nscale達成約450億美元算力租用協(xié)議，并與SpaceX達成每月約12.5億美元的計算資源協(xié)議，同時組建自研芯片團隊。

而據(jù)媒體此前援引知情人士稱，Anthropic截至7月底的年化營收已超過650億美元，較5月底的470億美元進一步增長。

在這樣的背景下，若全行業(yè)共同放慢模型能力擴張速度，在一定程度上可以幫助Anthropic降低短期算力投入壓力。

這也形成了一個微妙的行業(yè)博弈。如果只有Anthropic一家放慢速度，它可能面臨競爭對手繼續(xù)擴張帶來的市場份額流失壓力，而如果OpenAI、Google等頭部公司同時降低前沿模型開發(fā)速度，單個公司的競爭劣勢就會明顯減弱。

當(dāng)然，集體“減速”也并非全然有利。9月14日，有媒體指出，如果前沿模型開發(fā)速度放慢，AI資本可能從繼續(xù)訓(xùn)練更大模型轉(zhuǎn)向AI應(yīng)用和部署，這反而可能給第二梯隊競爭者帶來追趕機會。

行業(yè)擔(dān)憂：監(jiān)管會鞏固巨頭現(xiàn)有優(yōu)勢

事實上，在阿莫代伊提出由前沿AI公司協(xié)調(diào)安全標(biāo)準(zhǔn)后，AI安全監(jiān)管之爭就成了討論焦點。

當(dāng)?shù)貢r間9月9日，OpenAI首席全球事務(wù)官Chris Lehane提出建立聯(lián)邦層面的AI安全框架，包括獨立評估、行業(yè)標(biāo)準(zhǔn)以及統(tǒng)一的AI能力和風(fēng)險衡量方式，并提出在必要情況下確定AI何時應(yīng)放慢甚至停止發(fā)展。

OpenAI首席科學(xué)家雅各布·帕喬茨基（Jakub Pachocki）此前表示，對于可能具備自我改進能力的AI，前沿公司之間進行安全協(xié)調(diào)十分重要。不過，他也直言，如果幾家主要競爭者共同決定放慢模型開發(fā)速度，這種協(xié)調(diào)本身也可能觸及競爭法問題。

據(jù)媒體報道，OpenAI曾就行業(yè)協(xié)調(diào)放慢AI發(fā)展的做法是否涉及反壟斷問題，向美國國會議員尋求意見。對于這一問題，OpenAI聯(lián)合創(chuàng)始人、現(xiàn)Thinking Machines首席科學(xué)家約翰·舒爾曼（John Schulman）認為，OpenAI和Anthropic應(yīng)該共同制定AI“減速”方案，不能簡單以反壟斷問題作為阻止安全合作的理由。

就在頭部科技企業(yè)呼吁統(tǒng)一監(jiān)管的同時，另一種擔(dān)憂隨之浮現(xiàn)：監(jiān)管會不會反過來鞏固巨頭現(xiàn)有的市場優(yōu)勢。

9月14日，微軟董事長兼首席執(zhí)行官薩蒂亞·納德拉（美國“三巨頭”呼吁AI減速背后的“私心”：減少投入，增加盈利，鞏固地位）在社交平臺發(fā)文稱，任何對超級智能的追求都必須建立在AI幫助人類、并保持在人類控制之下的基礎(chǔ)上。他同時強調(diào)，AI帶來的收益應(yīng)廣泛分布在不同國家、社區(qū)和企業(yè)之間，閉源和開源模型都應(yīng)該發(fā)展，AI不能由少數(shù)實體控制。

同日，投資人比爾·格利（Bill Gurley）表示，AI不應(yīng)獲得區(qū)別于其他產(chǎn)品的“特殊待遇”，現(xiàn)有產(chǎn)品責(zé)任規(guī)則同樣可以適用于AI。投資人Chamath Palihapitiya則警告，如果AI“失控”事件被用作強化集中式控制的理由，最終可能導(dǎo)致AI權(quán)力進一步集中。

這些觀點將爭議進一步引向另一個問題：AI安全監(jiān)管在降低風(fēng)險的同時，是否也可能提高行業(yè)進入門檻。

開源AI陣營同樣對封閉化的安全治理模式持謹慎態(tài)度。Hugging Face首席執(zhí)行官克萊芒·德朗格（Clément Delangue）此前表示，AI安全不能只留在少數(shù)前沿實驗室內(nèi)部解決。