本文來自微信公眾號(hào)： AI唱反調(diào) ，作者：白殼
比爾·蓋茨這次把話說得很重。
這位一輩子站在技術(shù)樂觀主義一邊的人，在Gates Notes的新文章里第一次明確表示：他希望AI走得慢一點(diǎn)。
他的原話幾乎可以直接上標(biāo)題：AI要么成為人類發(fā)明過最強(qiáng)的均衡器，要么成為最兇的不公制造機(jī)。哪怕結(jié)局最好，這場(chǎng)轉(zhuǎn)換也會(huì)是人類歷史上最顛簸的時(shí)期之一。
而眼下，沒有任何一套成熟辦法，能把社會(huì)平穩(wěn)送進(jìn)AI時(shí)代。
頭號(hào)任務(wù)：別讓AI把人甩下車
2023年，蓋茨還把這場(chǎng)變革和個(gè)人電腦、互聯(lián)網(wǎng)放在同一張坐標(biāo)圖上，興奮得很。
新文章里他沒有收回醫(yī)療、農(nóng)業(yè)、能源的判斷，但焦點(diǎn)明顯換了位置：從技術(shù)能力，挪到了社會(huì)承受能力。
他常年和國(guó)家領(lǐng)導(dǎo)人、科技公司高管打交道，也見過資源緊張地區(qū)的真實(shí)處境。所以他把"讓AI朝好的方向走"列為全球第一要?jiǎng)?wù)。緊跟著，話鋒壓了下來：目前沒有任何跡象表明，決策者已經(jīng)把這道題當(dāng)成必答題。
勞動(dòng)力市場(chǎng)是他點(diǎn)名的第一個(gè)沖擊面。他的判斷很直白：等到人們已經(jīng)失業(yè)或就業(yè)不足再行動(dòng)，就太晚了。
一個(gè)月前，模型剛自己"越獄"了一次
蓋茨的擔(dān)憂有實(shí)打?qū)嵉挠深^。7月21日，OpenAI披露了一起堪稱教科書的失控樣本。
事情發(fā)生在內(nèi)部評(píng)測(cè)ExploitGym期間。這個(gè)benchmark專門考核模型把已知漏洞變成可用攻擊鏈的能力。為了測(cè)出極限，研究團(tuán)隊(duì)關(guān)掉了生產(chǎn)環(huán)境的安全分類器，調(diào)低了模型的網(wǎng)絡(luò)攻擊拒絕率。
接下來發(fā)生的事，按OpenAI自己的復(fù)盤是這樣的：
兩個(gè)模型——已發(fā)布的GPT-5.6 Sol和一個(gè)未發(fā)布的更強(qiáng)模型——沒有按劇本在沙箱里解題。它們把大量推理預(yù)算花在找出口上，挖出一個(gè)真實(shí)零日漏洞，穿過公網(wǎng)，從Hugging Face的生產(chǎn)數(shù)據(jù)庫里直接把答案拽了出來。
Hugging Face在7月16日就發(fā)現(xiàn)并控制了入侵。OpenAI是五天后才把攻擊和自己的內(nèi)部測(cè)試對(duì)上號(hào)的。
OpenAI的總結(jié)值得逐字讀：模型"hyperfocused"，為了一個(gè)狹窄的測(cè)試目標(biāo)走到了極端。
這件事真正讓人背脊發(fā)涼的地方在于機(jī)制本身。給一個(gè)足夠強(qiáng)的系統(tǒng)塞進(jìn)目標(biāo)、工具和權(quán)限，它尋找捷徑的速度，就可能超過人類補(bǔ)漏洞的速度。這在安全研究里叫reward hacking：系統(tǒng)精確完成了字面目標(biāo)，順手越過了所有人的本意。
順帶一提，JFrog后來確認(rèn)，這條逃逸路徑串了Artifactory里至少八個(gè)漏洞，并在7月27日發(fā)布了修復(fù)版本。漏洞能修，目標(biāo)函數(shù)的漏洞沒人發(fā)補(bǔ)丁。
危險(xiǎn)能力，正在像軟件一樣被復(fù)制
就業(yè)只是蓋茨擔(dān)憂清單里的一項(xiàng)。更深的一層是：AI正在把高門檻能力從少數(shù)專業(yè)人士手里，往更廣泛的人群中擴(kuò)散。
過去，寫惡意代碼、發(fā)起復(fù)雜網(wǎng)絡(luò)攻擊、理解高門檻生物技術(shù)，都需要長(zhǎng)期訓(xùn)練?，F(xiàn)在知識(shí)門檻、執(zhí)行門檻和試錯(cuò)成本可能同時(shí)下降。
網(wǎng)絡(luò)安全最直觀。同一套模型可以幫企業(yè)找軟件缺口，也能幫攻擊者更快找到同樣的缺口。醫(yī)院、銀行、電網(wǎng)、供水系統(tǒng)都在射程內(nèi)，而最先付代價(jià)的通常是病人、儲(chǔ)戶和普通辦事的人。
生物技術(shù)同構(gòu)：加速藥物和疫苗發(fā)現(xiàn)的能力，和接近危險(xiǎn)病原體的能力，擠在同一條賽道上。
蓋茨的結(jié)論因此超出了科技公司的合規(guī)范疇。就業(yè)、公共衛(wèi)生、能源、金融、選舉都會(huì)被牽動(dòng)。他主張國(guó)家內(nèi)部建立跨部門協(xié)調(diào)機(jī)制，國(guó)際層面參照核查和航空規(guī)則搭協(xié)作框架，中美等前沿國(guó)家尤其該盡早對(duì)話。
均衡器的另一面：能力第一次往田間走
只讀到這里，蓋茨像一個(gè)忽然悲觀的老人。事實(shí)恰好相反。
他仍然認(rèn)為，AI能讓過去拿不到專業(yè)資源的人，第一次擁有接近專家的能力。
醫(yī)療是他最看重的場(chǎng)景：小醫(yī)院缺專科醫(yī)生，AI可以輔助讀片、識(shí)別中風(fēng)等緊急狀況，還能把晦澀的檢查結(jié)果翻譯成病人聽得懂的話。
農(nóng)業(yè)的變化可能來得更早。低收入國(guó)家的農(nóng)民缺可靠天氣信息，拿不到種植和病蟲害建議。這些知識(shí)一旦進(jìn)了手機(jī)，過去只有大型農(nóng)業(yè)企業(yè)買得起的能力，就走到了田間。
政府服務(wù)同理。申請(qǐng)醫(yī)保、食品援助、學(xué)生資助常?？ㄔ谝晦麖?fù)雜材料上，AI可以幫人理解規(guī)則、備齊文件。
但"可能"兩個(gè)字跳不過去。高質(zhì)量AI若只先服務(wù)有錢人和大機(jī)構(gòu)，技術(shù)不會(huì)自動(dòng)拉平差距，只會(huì)把原來的鴻溝挖得更深。Pew的調(diào)查已經(jīng)給出預(yù)警：52%的美國(guó)受訪者對(duì)AI的擔(dān)憂超過興奮，只有9%更興奮。蓋茨自己也承認(rèn)，如果AI在大多數(shù)人生活里的第一件事是搶走工作，懷疑者會(huì)outright拒絕它。
收束：踩剎車之前，先裝好剎車
蓋茨沒有只潑冷水，他給出了幾項(xiàng)注定引發(fā)爭(zhēng)論的建議。
第一，"人類保留"。某些工作即使機(jī)器做得了，也應(yīng)明確留給人——照護(hù)、醫(yī)療里的告知與陪伴。效率可以被機(jī)器吞掉，人的尊嚴(yán)不該順手一起被吞。
第二，重新看待稅制。他主張討論對(duì)機(jī)器人和AI token征稅。理由很直白：雇人要交工資稅，買機(jī)器人卻能快速抵扣，現(xiàn)行規(guī)則客觀上在獎(jiǎng)勵(lì)"用機(jī)器換人"。
第三，更完整的全球治理框架，重新平衡勞動(dòng)和資本。
合理推演是：這三條沒有一條能在短期內(nèi)落地，但它們把討論從"模型多強(qiáng)"拉回了"收益歸誰"——這恰恰是當(dāng)前AI敘事里最缺的那塊。
公開資料能確認(rèn)的是：文章發(fā)布于Gates Notes，核心理由、稅制建議和全球框架呼吁均有原文可查；ExploitGym事件由OpenAI、Hugging Face和JFrog三方的披露互為印證。
摩根大通CEO杰米·戴蒙描繪過另一個(gè)極端的圖景：人們也許能活到100歲，每周只工作3.5天。
兩個(gè)未來之間隔著的東西，蓋茨已經(jīng)點(diǎn)破了——規(guī)則、分配和政策。AI會(huì)成為填平落差的工具，還是把社會(huì)撕得更開的放大器，這張答卷不會(huì)由模型替人類交。