本文來自微信公眾號(hào)： 數(shù)字經(jīng)濟(jì)發(fā)展評(píng)論 ，作者：數(shù)字經(jīng)濟(jì)發(fā)展評(píng)論
導(dǎo)語
近日，Anthropic的一份報(bào)告點(diǎn)名多家中國AI公司，指其“非法蒸餾”Claude。對外，它要當(dāng)“濫用”的定義者；對內(nèi)，卻另有一套動(dòng)作：60分鐘預(yù)警讓高管避開提前舉行的抗議，改路線、換通道，寫進(jìn)行程表；例行向警局報(bào)案，追“行為曲線”而非已發(fā)生的事，有用戶被報(bào)警處理，警方卻拿不到那段對話，舉報(bào)成立，證據(jù)不交。文章追問：從反蒸餾到反“反AI”，誰在劃這條界？AI一旦被認(rèn)定為關(guān)鍵基礎(chǔ)設(shè)施，公共表達(dá)的空間又會(huì)被壓縮到什么程度？
原文標(biāo)題：Anthropic Is Building a Predictive Surveillance System to Monitor Activists
原文來源：美國展望（The American Prospect）
編譯解讀：數(shù)字經(jīng)濟(jì)發(fā)展評(píng)論
Anthropic的招聘信息及其安全高管的受訪內(nèi)容顯示，這家前沿AI實(shí)驗(yàn)室正在搭建一套龐大的監(jiān)控系統(tǒng)，密切關(guān)注反對AI快速發(fā)展的活動(dòng)人士。被列進(jìn)目標(biāo)清單的是一類人，而不是一類行為，這是這套系統(tǒng)最值得追問的地方。一家把“負(fù)責(zé)任”寫在招牌上的公司，正在把批評(píng)者當(dāng)成一類風(fēng)險(xiǎn)來管理。
除了監(jiān)控高管周邊的活動(dòng)人士、留意公司實(shí)體資產(chǎn)附近的抗議活動(dòng)外，Anthropic還在推行一種“事前預(yù)判”模式：試圖在事情發(fā)生之前做出判斷，某些情況下，這還意味著在罪案發(fā)生之前就將嫌疑人報(bào)給警方。
預(yù)測的依據(jù)是模型對數(shù)據(jù)的判斷，而不是誰做了什么。從事后追責(zé)到事前攔截，一步之差，落點(diǎn)卻從保護(hù)人變成了管住人。Anthropic未回應(yīng)《美國展望》（The American Prospect）的置評(píng)請求。未予置評(píng)本身就是一種說明，至少表示這套做法短期內(nèi)不會(huì)撤回。
今年年初，Anthropic還因拒絕讓軍方把自家工具用于大規(guī)模國內(nèi)監(jiān)控和自主武器，與美國國防部發(fā)生高調(diào)爭執(zhí)。當(dāng)時(shí)的姿態(tài)是拒絕監(jiān)控，現(xiàn)在的動(dòng)作是自己上馬。隨著Anthropic開始招聘“國家安全銷售”崗位，試圖重啟軍方合同，這種緊張關(guān)系似乎正在緩和。對國內(nèi)反對者的威脅監(jiān)測升級(jí)，與該公司重新聚焦國家安全的方向一致。安全預(yù)算與國防訂單，往往就是這樣一路長出來的。
安全部門擴(kuò)張通常有跡可循：先是護(hù)住人和樓，再是提前知道誰要來，再往后，誰在反對都算風(fēng)險(xiǎn)。三步走完，安保就成了情報(bào)。
提前60分鐘的預(yù)警：高管臨時(shí)改道
Anthropic監(jiān)控系統(tǒng)的一角，在去年一場播客訪談中被披露。訪談參與者包括Anthropic全球安全運(yùn)營中心經(jīng)理基翁·埃利森（Keon Ellison）、安全運(yùn)營經(jīng)理扎克·梅爾文（Zach Melvin），以及Samdesk首席執(zhí)行官詹姆斯·諾伊費(fèi)爾德（James Neufeld）——Anthropic與Samdesk簽有風(fēng)險(xiǎn)檢測合同。
這場關(guān)于威脅監(jiān)控與分析的廣泛對話，也涉及對活動(dòng)人士的監(jiān)控。埃利森講了一個(gè)例子：“去年我們有位高管前往某大城市，當(dāng)時(shí)通過Samdesk收到情報(bào)，稱有一場計(jì)劃中的抗議活動(dòng)。原定的抗議因許可問題提前舉行，Samdesk給了我們大約60分鐘的提前量，告訴我們組織方改了時(shí)間?！卑＠忉尩?，“這多出來的一個(gè)小時(shí)很關(guān)鍵。沒有它，我們高管散會(huì)后就會(huì)直接撞進(jìn)抗議活動(dòng)的中心?！?/p>
利用這些信息，Anthropic給高管規(guī)劃了備用路線，將其引導(dǎo)至酒店的員工通道。從改路線到改出入口，預(yù)警被直接寫進(jìn)了行程表。埃利森說，“本來可能是高度緊張的局面，因?yàn)镾amdesk的早期預(yù)警和給到的信息，局面得以化解?！睂ζ髽I(yè)而言，這是危機(jī)管理；對被追蹤的人而言，則是在自己不知情時(shí)已經(jīng)被提前安排過一次。
Anthropic已開始就威脅事件向全美各地警局提交例行報(bào)告，并在今年7月告知《華爾街日報(bào)》“我們通過關(guān)注人員流程，長期追蹤可疑行為，這讓我們能及早發(fā)現(xiàn)行為升級(jí)模式。
”追蹤的是一條行為曲線，曲線由誰定義，異常就由誰說了算。據(jù)《華爾街日報(bào)》報(bào)道：“上報(bào)給警方的多起事件中，有數(shù)名當(dāng)事人此前已處于Anthropic安全團(tuán)隊(duì)的追蹤之下。”報(bào)告一旦例行化，企業(yè)就相當(dāng)于在警方那里長期備案。
這里的關(guān)鍵不在“企業(yè)能不能報(bào)警”，而在它憑什么長期建檔：追蹤的是行為模式，而不是已經(jīng)發(fā)生的事。
向警方報(bào)案，卻拒絕出示對話記錄
上個(gè)月，《舊金山標(biāo)準(zhǔn)報(bào)》報(bào)道，Anthropic向舊金山警方報(bào)案，原因是一名男子對Claude說，自己買了AR-15半自動(dòng)步槍，并把CEO達(dá)里奧·阿莫迪（Dario Amodei）“納入瞄準(zhǔn)范圍”。當(dāng)記者聯(lián)系到該男子時(shí)，他告訴媒體自己只是“瞎扯”。
然而，盡管Anthropic迅速就一名不滿的Claude用戶報(bào)警，《舊金山標(biāo)準(zhǔn)報(bào)》還是披露了一個(gè)關(guān)鍵細(xì)節(jié)：Anthropic以公司內(nèi)部政策為由，拒絕向警方出示真實(shí)對話內(nèi)容。結(jié)果是，一個(gè)人因?yàn)樵谄脚_(tái)里說的話被報(bào)案處理，警方卻拿不到那句話。舉報(bào)成立，證據(jù)不交。報(bào)案與舉證拆開之后，被舉報(bào)的人連自證清白的機(jī)會(huì)都沒有。
這種未經(jīng)正當(dāng)程序的預(yù)防式執(zhí)法，在安全項(xiàng)目經(jīng)理的訪談里被說成了明確目標(biāo)：“目標(biāo)是把運(yùn)營模式從被動(dòng)響應(yīng)，轉(zhuǎn)變?yōu)橹鲃?dòng)的、預(yù)測性的和預(yù)防性的威脅應(yīng)對與管理?！彼a(bǔ)充說，“這正是保護(hù)任何行業(yè)的高價(jià)值目標(biāo)所需的運(yùn)營成熟度?！卑杨A(yù)防寫進(jìn)崗位目標(biāo)，意味著它已經(jīng)通過了內(nèi)部合規(guī)的審視。“預(yù)防性”這三個(gè)字聽著溫和，實(shí)際是把判斷提前到了事實(shí)之前。
值得留意的不是某一次報(bào)警對不對，而是這套流程被寫成了崗位目標(biāo)：主動(dòng)、預(yù)測、預(yù)防，三者都不要求事情發(fā)生。
招聘啟事把社會(huì)運(yùn)動(dòng)與恐怖主義并列
Anthropic構(gòu)建預(yù)測性安全體系的努力，不僅限于高管層，還延伸至其全球安保、情報(bào)與安全（GSIS）團(tuán)隊(duì)。上個(gè)月的一則招聘信息顯示，該公司在尋找一名企業(yè)情報(bào)專家，職責(zé)是“調(diào)查特定威脅、行為者和事件，撰寫評(píng)估報(bào)告，幫助Anthropic員工在快速演變的威脅格局中保持領(lǐng)先并處于可防御的位置?！闭衅竼⑹率亲铍y粉飾的材料，傳遞的就是公司的意愿?！翱赊q護(hù)”這三個(gè)字透露出，公司知道自己會(huì)被追問。
該崗位年薪在18萬至23萬美元，部分職責(zé)是“識(shí)別、評(píng)估、追蹤和調(diào)查全球威脅，包括地緣政治動(dòng)蕩、恐怖主義、犯罪、社會(huì)運(yùn)動(dòng)、針對AI行業(yè)的國家行為體，以及新興安全趨勢，并負(fù)責(zé)對特定威脅、行為者和事件的深度研究與開源情報(bào)收集”。從崗位描述看，公司要的不是安保支援，而是能產(chǎn)出評(píng)估報(bào)告的分析人員。
社會(huì)運(yùn)動(dòng)與恐怖主義被放進(jìn)同一串名詞里，這不是筆誤，是一份分類表。
分類即立場。當(dāng)“社會(huì)運(yùn)動(dòng)”和恐怖主義、犯罪并列進(jìn)同一份職責(zé)清單，公司就不再區(qū)分批評(píng)者與攻擊者。
把AI列為關(guān)鍵基礎(chǔ)設(shè)施之后
Anthropic將情報(bào)收集從公司周邊擴(kuò)展到全國乃至全球范圍，與近期提升AI及其底層基礎(chǔ)設(shè)施（包括數(shù)據(jù)中心和電力供應(yīng)）地位的努力一脈相承。被列為關(guān)鍵基礎(chǔ)設(shè)施，將使AI與供水、電力和寬帶處于同等地位。與此同時(shí)，看護(hù)手段也將向看護(hù)電網(wǎng)看齊。事實(shí)上，支持AI的團(tuán)體，如“美國負(fù)責(zé)任創(chuàng)新組織”（ARI），已敦促特朗普政府做出這一調(diào)整。
按照ARI的說法，AI“對美國至關(guān)重要，這類系統(tǒng)與資產(chǎn)的癱瘓或破壞，將對國家安全、國家經(jīng)濟(jì)安全、國家公共衛(wèi)生安全，或上述各項(xiàng)組合，造成嚴(yán)重削弱的影響。”這套措辭與關(guān)鍵基礎(chǔ)設(shè)施、國家安全的表述高度同源，把商業(yè)資產(chǎn)裝進(jìn)國家安全敘事只差一個(gè)官方認(rèn)定。
把前沿實(shí)驗(yàn)室披上國家安全的外衣，不僅會(huì)讓Anthropic、OpenAI和谷歌更容易拿到聯(lián)邦執(zhí)法與情報(bào)機(jī)構(gòu)生成的情報(bào)產(chǎn)品，也會(huì)讓這些公司更有底氣去影響聯(lián)邦機(jī)構(gòu)如何看待對其商業(yè)利益的威脅。畢竟，這些商業(yè)利益如今已被包裝為“關(guān)鍵基礎(chǔ)設(shè)施”。身份一變，企業(yè)的營收風(fēng)險(xiǎn)就自動(dòng)升格為國家安全風(fēng)險(xiǎn)。
不難想象，那個(gè)反對數(shù)據(jù)中心的兩黨公民聯(lián)盟如果把公民參與的火力轉(zhuǎn)向AI，很可能在同一時(shí)間被貼上“極端分子”，甚至“恐怖分子”的標(biāo)簽。標(biāo)簽的轉(zhuǎn)換成本極低，而公民表達(dá)一旦被歸檔，就很難被移除。Anthropic對這個(gè)問題的應(yīng)對方式，是更賣力地推出公眾難以忽視的AI服務(wù)，用產(chǎn)品說服力去對沖信任赤字。
Anthropic首席執(zhí)行官阿莫迪上月在社交媒體上寫道：“我確實(shí)認(rèn)同公眾對AI持負(fù)面看法（這是個(gè)大問題），但我不認(rèn)為這主要由我或其他AI領(lǐng)導(dǎo)者警告AI風(fēng)險(xiǎn)所造成?！彼又鴮懙溃骸拔艺J(rèn)為這從根本上是一場信任危機(jī)……普通人就是不信任公司、政府和科技行業(yè)，總懷疑我們在琢磨新法子坑他們?！背姓J(rèn)存在信任危機(jī)是一回事，把批評(píng)者納入監(jiān)控是另一回事，后者只會(huì)讓危機(jī)坐實(shí)。
信任危機(jī)不是靠產(chǎn)品能力就能修復(fù)的。當(dāng)公眾發(fā)現(xiàn)預(yù)警系統(tǒng)的方向?qū)χ约?，懷疑就有了具體的形狀。
保安投票罷工，公司讓員工居家辦公
隨著Anthropic通過內(nèi)部情報(bào)團(tuán)隊(duì)和AI驅(qū)動(dòng)的實(shí)時(shí)抗議追蹤加大對異見者的監(jiān)控，它也不得不面對灣區(qū)辦公樓之外普通人的日益加劇的經(jīng)濟(jì)困難。就在此前一周，在OpenAI與Anthropic園區(qū)巡邏的保安宣布，因薪資談判停滯已投票授權(quán)罷工。
Anthropic的回應(yīng)是一封全員郵件，建議員工居家辦公。遇到罷工就讓員工回家，等于用遠(yuǎn)程辦公替代了談判桌。同一套預(yù)警能力用在這里，就是讓員工繞開罷工糾察線。
代表灣區(qū)保安的工會(huì)“服務(wù)業(yè)雇員國際理事會(huì)西海岸分部”（SEIU-USWW）主席大衛(wèi)·韋爾塔（David Huerta）上周在一次集會(huì)上說：“在舊金山，時(shí)薪22美元怎么活？”看守園區(qū)的人與樓里的人，收入差距本身就是信任缺口的一部分。他身邊的保安喊著：“可恥?！北涣腥氡O(jiān)控清單的是外部批評(píng)者，坐在談判桌對面的卻是自己的保安。
預(yù)警系統(tǒng)的用途，取決于誰在調(diào)用。同一套能力，給高管是改道，給員工是繞開糾察線，給批評(píng)者則是提前歸檔。
對國內(nèi)來說，這件事的提醒落在一句話上：誰來定義威脅。平臺(tái)把用戶言論上報(bào)給執(zhí)法機(jī)構(gòu)，觸發(fā)條件、證據(jù)要求和事后復(fù)核目前都掌握在企業(yè)內(nèi)部；另一層是身份升級(jí)：AI及其數(shù)據(jù)中心、電力配套一旦被認(rèn)定為關(guān)鍵基礎(chǔ)設(shè)施，企業(yè)順帶就拿到了把商業(yè)利益講成國家安全風(fēng)險(xiǎn)的解釋權(quán)，認(rèn)定標(biāo)準(zhǔn)與配套監(jiān)督也需要同步落地。