本文來(lái)自微信公眾號(hào)： 數(shù)字經(jīng)濟(jì)發(fā)展評(píng)論 ，作者：數(shù)字經(jīng)濟(jì)發(fā)展評(píng)論，原文標(biāo)題：《當(dāng)“減速”成為共識(shí)之后：美國(guó)AI巨頭的「囚徒困境」》
導(dǎo)語(yǔ)
OpenAI、Anthropic這些AI巨頭站在一起，呼吁給前沿AI“減速”，同行之間出現(xiàn)這種默契并不多見(jiàn)，正因如此才值得留意。這更像是一場(chǎng)高段位的囚徒困境：誰(shuí)都知道超速危險(xiǎn)，但誰(shuí)也不敢真把油門松開(kāi)。AI逼近自我改進(jìn)的臨界點(diǎn)，安全焦慮是真的；但大國(guó)博弈下的競(jìng)爭(zhēng)壓力也是真的。這場(chǎng)關(guān)于“減速”的集體表態(tài)，究竟是技術(shù)倫理的覺(jué)醒，還是新一輪話語(yǔ)權(quán)爭(zhēng)奪的開(kāi)場(chǎng)白？
原文標(biāo)題：Why AI's Biggest Rivals Are Suddenly Calling for Restraint
原文來(lái)源：美國(guó)外交關(guān)系委員會(huì)（Council on Foreign Relations,CFR）
編譯解讀：數(shù)字經(jīng)濟(jì)發(fā)展評(píng)論
近日，美國(guó)幾家互為對(duì)手的AI實(shí)驗(yàn)室罕見(jiàn)地站到了一起。
Anthropic的達(dá)里奧·阿莫迪、OpenAI的山姆·奧爾特曼、xAI的埃隆·馬斯克，加上其他幾位AI領(lǐng)袖，共同呼吁放慢這項(xiàng)技術(shù)的腳步——因?yàn)樗诒平粋€(gè)臨界點(diǎn)：無(wú)需人類監(jiān)督就能自我改進(jìn)。
人們對(duì)這項(xiàng)技術(shù)的擔(dān)憂由來(lái)已久，但圍繞它的討論，在最近一系列事件和實(shí)驗(yàn)室研究人員的警告之后，變得更加緊迫。引人注目的是，Anthropic前研究員雅各布·考克森（Jacob Coxon）于9月上旬警告，AI可能在本世紀(jì)20年代末導(dǎo)致全人類滅亡，隨后，Anthropic對(duì)齊科學(xué)團(tuán)隊(duì)的埃文·胡賓格（Evan Hubinger）也呼應(yīng)了這一說(shuō)法。
一來(lái)二去，一場(chǎng)曾經(jīng)只存在于抽象層面的議題——關(guān)于“遞歸式自我改進(jìn)”（recursive self-improvement），即AI系統(tǒng)能夠獨(dú)立改進(jìn)并取代自己——被推到了大眾視野的中心。
可問(wèn)題是，盡管減速的呼聲四起，且各家實(shí)驗(yàn)室意外達(dá)成共識(shí)，行業(yè)與美國(guó)政府下一步該怎么走，仍沒(méi)有答案。美國(guó)外交關(guān)系委員會(huì)（CFR）國(guó)家安全方向的國(guó)際事務(wù)研究員康納·馬?。–onnor Martin）就自我改進(jìn)的擔(dān)憂、減速意味著什么、行業(yè)按照自己的警告行動(dòng)會(huì)帶來(lái)什么后果，回答了幾個(gè)問(wèn)題。
為什么這個(gè)議題會(huì)在此時(shí)引爆輿論？
最直接的導(dǎo)火索，是Anthropic首席執(zhí)行官阿莫迪發(fā)表的一篇文章。他在文中呼吁“為前沿技術(shù)配速”，即刻意放慢全球頂尖人工智能模型的進(jìn)化速度。
這相當(dāng)于全世界估值最高的AI創(chuàng)業(yè)公司掌門人親口承認(rèn)，AI技術(shù)發(fā)展過(guò)快，快到安全已無(wú)法得到保證。更令人驚訝的是，在短短24小時(shí)內(nèi)，另外三家頭部AI公司——OpenAI、谷歌和xAI——的掌門人也紛紛表示贊同。
而這背后，是三股力量共同推動(dòng)的輿論轉(zhuǎn)向。
首先，今年夏天，一群AI智能體入侵了廣受歡迎的開(kāi)源人工智能模型共享平臺(tái)Hugging Face，其性質(zhì)與以往的事件截然不同，甚至令業(yè)內(nèi)最頂尖的專家都感到震驚。OpenAI實(shí)際上失去了對(duì)其技術(shù)的控制，這些智能體自主地脫離了封閉環(huán)境，在完成被指派的任務(wù)時(shí)作弊，還一路掩蓋自己的不當(dāng)行為。
其次，人工智能被不法分子濫用的風(fēng)險(xiǎn)，變得越來(lái)越具體。Anthropic公司剛剛發(fā)布了一份報(bào)告，描述某些不便點(diǎn)名的國(guó)家用戶如何試圖利用Claude開(kāi)展研究，而這些研究可能用于制造生物武器。這是馬丁在政府任職期間最擔(dān)心的一類濫用問(wèn)題，如今有了具體案例。
第三，和任何公共議題一樣，這里有累積效應(yīng)。越來(lái)越多的科學(xué)家警告人工智能有可能危及人類；越來(lái)越多的人在生活中使用人工智能，并親身感受到它的強(qiáng)大之處；越來(lái)越多的人開(kāi)始與親朋好友談?wù)撍Ｋ羞@些因素加在一起，就催生了我們此刻所看到的局面。
AI自我改進(jìn)若真危險(xiǎn)，為何只放緩而不暫停？
“自我改進(jìn)”是模型依靠自身能力去建造下一代，而無(wú)需依賴人類動(dòng)手調(diào)整。
問(wèn)題是：這最終會(huì)走向何方？如果模型的能力超越了設(shè)計(jì)和訓(xùn)練它的人類，那么從定義上講，我們就失去了控制它們的能力。正是這種不確定性，讓人感到危險(xiǎn)。
至于為什么是放緩而不是暫停，馬丁的判斷是，行業(yè)里彌漫著一種集體宿命論：只要一種技術(shù)在理論上能被發(fā)明，那么遲早會(huì)有人把它發(fā)明出來(lái)。放緩的希望在于，給模型能力提升的速度施加恰到好處的阻力，讓我們有機(jī)會(huì)在技術(shù)脫韁之前，建好安全護(hù)欄。
AI公司如何看待9月中旬以來(lái)的這場(chǎng)討論？
僅就Anthropic和OpenAI而言（谷歌和xAI也一樣適用），有一點(diǎn)相當(dāng)明顯，這兩家公司將眼前的局面視為一種“囚徒困境”，誰(shuí)都不愿單方面減速，除非保證對(duì)手不會(huì)趁機(jī)行動(dòng)。
兩家公司都籌備上市，估值均超過(guò)1萬(wàn)億美元（不過(guò)奧爾特曼于9月12日表示，出于安全顧慮，OpenAI將推遲IPO）。即便他們真心相信，為了安全應(yīng)該放慢腳步，市場(chǎng)的反應(yīng)也是一股把他們往反方向拽的強(qiáng)大力量。9月14日當(dāng)周，AI概念股應(yīng)聲下跌。在一個(gè)AI資本開(kāi)支預(yù)計(jì)明年將占美國(guó)GDP的2.5%的經(jīng)濟(jì)體里，這些公司的任何對(duì)商業(yè)不利的決定，都可能影響整個(gè)美國(guó)經(jīng)濟(jì)。
這種風(fēng)險(xiǎn)正在推動(dòng)美國(guó)政府的反應(yīng)。9月14日，美國(guó)總統(tǒng)唐納德·特朗普（Donald Trump）表示，AI安全恐慌是“一場(chǎng)騙局”（HOAX），并稱“針對(duì)AI和數(shù)據(jù)中心，有人正策劃一場(chǎng)病態(tài)的陰謀”。
他的前AI事務(wù)負(fù)責(zé)人、現(xiàn)任總統(tǒng)科學(xué)技術(shù)顧問(wèn)委員會(huì)聯(lián)合主席戴維·薩克斯（David Sacks）則毫不客氣地對(duì)這些公司喊話：“別再假裝需要任何人的許可，也別再假裝必須暫停反壟斷法，好讓你們組成卡特爾……你們想放緩前沿就去放緩，定速度的人本來(lái)就是你們自己?！?/p>
這話或許沒(méi)錯(cuò)，但它解不開(kāi)頭部人工智能公司之間的囚徒困境。更麻煩的是，這個(gè)困境還嵌套在中美之間更大的博弈之中，誰(shuí)都不愿把AI優(yōu)勢(shì)拱手讓給對(duì)方。
顯然，這些公司真正肯放緩的唯一辦法，恐怕只能靠美國(guó)政府主導(dǎo)的制度框架，無(wú)論是通過(guò)監(jiān)管還是國(guó)會(huì)立法，這一框架本身，又必須建立在某種中美緩和的基礎(chǔ)之上。所有這一切都需要各方之間建立起高度信任，而各方又都有充分的理由對(duì)彼此保持警惕。
如果中國(guó)贏得AI競(jìng)賽，會(huì)發(fā)生什么？
如果接受“AI是人類有史以來(lái)最強(qiáng)大的發(fā)明”這一前提，那么中國(guó)“獲勝”的后果幾乎沒(méi)有上限。
9月14日，特朗普在社交平臺(tái)上發(fā)文稱“誰(shuí)贏得AI，誰(shuí)就贏得一切”，這基本上就是美國(guó)政府國(guó)家安全圈內(nèi)的共識(shí)。
這正是囚徒困境如此尖銳的原因，也是它不太可能在沒(méi)有美國(guó)政府全面監(jiān)管制度、并最終由立法確立且嵌套在中美協(xié)議之內(nèi)的情況下得到解決的原因。
中方是否愿意就此對(duì)話，還有待觀察。馬丁稱，中國(guó)對(duì)AI安全議題的重視程度正在上升。9月24日在華盛頓舉行的會(huì)晤，是一個(gè)可能取得進(jìn)展的窗口。
從中國(guó)的角度來(lái)看，自身的處境其實(shí)相當(dāng)清晰。中國(guó)已有相當(dāng)成熟的AI開(kāi)發(fā)生態(tài)，從核心基準(zhǔn)測(cè)試看，中國(guó)模型與美國(guó)領(lǐng)先模型的能力差距只有數(shù)月。在這樣的技術(shù)位置下，任何一方單方面放慢腳步，都意味著把近在咫尺的差距重新拉開(kāi)——這不是配不配合的問(wèn)題，而是理性的戰(zhàn)略選擇。
因此，中方對(duì)阿莫迪文章的回應(yīng)，重點(diǎn)不在于拒絕合作，而在于規(guī)則由誰(shuí)來(lái)定。外交部發(fā)言人批評(píng)該文章“散播威脅敘事，搞對(duì)抗和惡性競(jìng)爭(zhēng)”。如果減速的前提是接受別人劃定的標(biāo)準(zhǔn)，那么這樣的減速，本質(zhì)上是一場(chǎng)不平等的約束。