本文來自微信公眾號： 觀潮體系 ，作者：觀潮

——AI在世界到達(dá)我們之前，先替我們做了什么?

“所有AI都聽話之后”系列?第一篇

一

2024年12月，一些蘋果手機(jī)用戶在鎖屏上看到了一條來自BBC新聞的通知。

通知說，被控槍殺美國聯(lián)合健康保險(xiǎn)公司首席執(zhí)行官的Luigi Mangione開槍自殺了。

這件事并沒有發(fā)生。BBC也從未這樣報(bào)道。真正寫下這句話的，是蘋果的人工智能通知摘要功能。它把BBC發(fā)來的幾條消息壓縮成一句話，在壓縮過程中憑空添上了一個(gè)結(jié)局，又把這句話放回BBC的名稱和圖標(biāo)之下。

這條假消息最值得注意的，不只是它錯(cuò)了。

人們每天都會(huì)遇到錯(cuò)誤消息。不同之處在于，這一次，錯(cuò)誤不僅獲得了內(nèi)容，還獲得了來源。用戶在鎖屏上看到的不是一段自稱來自AI的猜測，而是一條看起來由BBC發(fā)出的新聞。機(jī)器寫下了句子，新聞機(jī)構(gòu)卻替它長了一張臉。

BBC提出交涉。2025年1月，蘋果在iOS 18.3中暫時(shí)關(guān)閉了新聞和娛樂類應(yīng)用的通知摘要，并讓其他AI摘要以斜體顯示，增加提示和關(guān)閉入口。

斜體值不了幾個(gè)錢，卻做了一件重要的事：它把原先被抹平的接縫重新露了出來。它提醒用戶，眼前這段話不是新聞機(jī)構(gòu)的原文，而是機(jī)器對原文作過的一次處理。

這件小事揭開了AI時(shí)代一個(gè)遠(yuǎn)比“機(jī)器會(huì)不會(huì)出錯(cuò)”更深的問題：

世界究竟是怎樣到達(dá)我們的？

二

我們習(xí)慣把界面理解成一扇窗口。

屏幕、按鈕、搜索框、儀表盤，不過是人與世界之間的一層透明玻璃。玻璃越干凈，操作越順滑，我們越容易忘記它的存在。傳統(tǒng)界面設(shè)計(jì)甚至把這種“被忘記”視為成功：工具退到身后，人的意圖直接抵達(dá)對象。

但窗口這個(gè)比喻正在失效。

普通工具大多接在人已經(jīng)形成的意圖之后。人先看見一塊木頭，決定釘入釘子，再舉起錘子；先有一段話要說，再拿起紙筆。工具當(dāng)然會(huì)反過來塑造人的習(xí)慣，卻通常不會(huì)在行動(dòng)之前，先替人決定眼前是什么、什么值得注意、哪些選項(xiàng)可以不必出現(xiàn)。

信息時(shí)代的屏幕已經(jīng)改變了第一層關(guān)系。我們不再總是直接面對對象，而是通過數(shù)字、圖表、搜索結(jié)果和排行榜理解對象。世界先被翻譯，再被呈現(xiàn)。

AI又跨過了一道門檻。它不只等待人點(diǎn)擊，還會(huì)篩選、排序、概括、命名、推測意圖、生成答案。過去的界面主要回答“你要看什么”，今天的AI界面開始參與回答“什么值得你看”“這件事意味著什么”“下一步最好做什么”。

所以，把AI叫作“大腦外掛”只說對了一半?！巴鈷臁弊屓艘詾樗冀K待在人旁邊：人先有目的，AI幫助完成；人先作判斷，AI提高效率。

實(shí)際上，AI還可能鋪設(shè)在人前面，成為人抵達(dá)世界之前先要經(jīng)過的認(rèn)知環(huán)境。

它真正闖入的，不只是人的大腦，而是人與真實(shí)世界之間。

三

界面究竟握有什么？先看最基本的三種權(quán)力。

第一是讓什么出現(xiàn)。

屏幕面積有限，人的注意力更加有限。任何界面都必須選擇。哪些消息進(jìn)入首頁，哪些事實(shí)被摘要，哪些候選人進(jìn)入下一輪，哪些風(fēng)險(xiǎn)被系統(tǒng)標(biāo)紅——被放到眼前的東西開始參與現(xiàn)實(shí)，沒有出現(xiàn)的東西則可能像從未存在。

真正徹底的刪除，未必是把內(nèi)容抹掉。只要讓它永遠(yuǎn)到達(dá)不了你的經(jīng)驗(yàn)，它在實(shí)際生活中就等于已經(jīng)被刪除了。

第二是讓什么先出現(xiàn)。

順序看似只是排版，實(shí)際上會(huì)規(guī)定理解的起點(diǎn)。同一組事實(shí)，先看到風(fēng)險(xiǎn)評分，還是先看到原始記錄；先看到AI結(jié)論，還是先形成自己的初步判斷，可能使人沿著完全不同的路徑尋找證據(jù)。

排在第一位的東西，不只是最方便被看見，也最容易成為后來一切判斷的背景。

第三是給事物什么名字。

“低匹配度”“高風(fēng)險(xiǎn)”“優(yōu)質(zhì)用戶”“爭議內(nèi)容”——這些詞看上去只是標(biāo)簽，卻會(huì)決定人借用什么概念理解對象。一個(gè)人一旦以某種名稱進(jìn)入系統(tǒng)，后續(xù)的人往往不是重新認(rèn)識他，而是在那個(gè)名稱之內(nèi)解釋他。

界面并不產(chǎn)生目標(biāo)。增長、利潤、風(fēng)險(xiǎn)控制、管理效率，通常來自平臺、企業(yè)和制度。可是這些價(jià)值目標(biāo)必須變成一次排序、一個(gè)默認(rèn)項(xiàng)、一條提示或一種顏色，才會(huì)真正碰到人。

理論在界面處獲得肉身，權(quán)力在界面處變成動(dòng)作。

四

這不是抽象推測。

2026年2月發(fā)表于《自然》的一項(xiàng)研究，給出了迄今最硬的一批證據(jù)。研究者把4965名美國X平臺活躍用戶隨機(jī)分組：一組使用算法推薦的“為你”信息流，另一組強(qiáng)制按傳統(tǒng)上的時(shí)間順序?yàn)g覽，實(shí)驗(yàn)持續(xù)七周。

改變的只是信息怎樣呈現(xiàn)眼前，結(jié)果卻不只停留在屏幕上。使用算法信息流的用戶互動(dòng)更多，部分政治態(tài)度向更為保守的方向移動(dòng)；算法誘導(dǎo)出的新增關(guān)注，在用戶切回時(shí)間序之后仍然保留——痕跡沒有因?yàn)橥顺鏊惴ǘⅰ?/p>

對比此前與Meta合作的大規(guī)模實(shí)驗(yàn)，沒有Al介入的時(shí)間序信息流，雖然改變了內(nèi)容暴露和使用方式，卻沒有明顯改變試驗(yàn)用戶的政治態(tài)度。

界面不是萬能遙控器。它能夠改變?nèi)俗吣臈l路，卻不能保證人走到哪里，更不保證把入口恢復(fù)原樣，人就返回到初始點(diǎn)。

搜索提供了另一個(gè)畫面。2025年，Pew研究中心分析了900名美國成年人近六萬九千次Google搜索：沒有AI摘要時(shí)，用戶在15%的訪問中會(huì)持續(xù)點(diǎn)擊直到出現(xiàn)最終結(jié)果；有了AI摘要后，這一比例降到8%；真正點(diǎn)擊摘要信息來源的，只有約1%。

這項(xiàng)觀察不能單獨(dú)證明因果——Google曾質(zhì)疑其取樣方法，Pew則堅(jiān)持其代表性——但變化本身被照得很清楚：來源沒有被刪除，只是退到了少有人還愿意前往的岔路。

界面發(fā)揮作用的方式并不神秘。它通常不命令人相信什么，只需決定什么先被看見、哪條路最省力。因?yàn)槿嗽诘玫酱鸢敢院?，通常不再繼續(xù)追問。

久而久之，被改變的不只是點(diǎn)擊，而是不自覺的潛移默化。

五

如果說讓什么出現(xiàn)、讓什么先出現(xiàn)、給事物什么名字，是界面握有的三種權(quán)力，那么最深的一種，是讓這些權(quán)力本身隱沒。

一條排序如果每天出現(xiàn)，人很快就會(huì)把它當(dāng)作事物天然的輕重；一個(gè)風(fēng)險(xiǎn)分?jǐn)?shù)如果被反復(fù)使用，人會(huì)漸漸把它當(dāng)作對象自身的屬性；一段AI概括如果沒有留下加工痕跡，人便容易把它當(dāng)作事實(shí)本身。

人不是被強(qiáng)迫相信界面。人只是忘了自己正在通過界面。

普通窗口不會(huì)根據(jù)你的目光，在第二天悄悄改變窗外景物的排列。數(shù)字界面卻會(huì)記錄點(diǎn)擊、停留、采納和離開，再據(jù)此調(diào)整下一輪呈現(xiàn)。人一邊使用界面，也一邊向界面投喂訓(xùn)練材料。

于是，界面從一般意義的通道，變成為一塊移動(dòng)的地形。你還沒有完全理解上一版的規(guī)則，下一版已經(jīng)根據(jù)你的反應(yīng)重新安排入口；你以為自己在逐漸熟悉工具，工具也在以更快的速度熟悉你。

平臺沒有禁止你看世界。它只是體貼地替你決定，哪些東西不必勞煩你看見。

真正的不對稱由此出現(xiàn)：使用者只能在界面提供的路徑中行動(dòng)，擁有設(shè)計(jì)權(quán)的一方卻能夠觀察所有人的行動(dòng)，再重畫路徑。

六

因此，討論界面不能停在“好不好用”。還必須追問：是誰在建造這塊地形？

界面本身不是一個(gè)會(huì)承擔(dān)責(zé)任的人。若說“界面誘導(dǎo)了用戶”“算法決定了結(jié)果”，很容易讓真正的建造者退到幕后。界面不會(huì)自行產(chǎn)生利潤目標(biāo)，也不會(huì)自己決定什么叫效率、風(fēng)險(xiǎn)或成功。

但利潤目標(biāo)可以凝固為無限下拉和自動(dòng)續(xù)費(fèi)；風(fēng)險(xiǎn)控制可以凝固為一個(gè)醒目的分?jǐn)?shù)；提高效率可以凝固為默認(rèn)生成和一鍵執(zhí)行；組織的責(zé)任安排可以凝固為一個(gè)無法跳過的確認(rèn)框。

系統(tǒng)目標(biāo)經(jīng)過了界面，才變成我們能夠感受到的現(xiàn)實(shí)。

所以，每一次面對AI界面，都值得多問幾句：誰決定它首先顯示什么？它以什么指標(biāo)判斷一次交互成功？誰取得我的行為數(shù)據(jù)？當(dāng)界面改變時(shí)，我是否知道發(fā)生了什么？

這些問題并不要求人人成為工程師。它們只是把一個(gè)常被遮住的事實(shí)重新放回眼前：界面不是自然形成的。每一條看似順手的路徑，背后都有設(shè)計(jì)、目標(biāo)和權(quán)力。

七

這并不意味著好界面應(yīng)該處處制造障礙，讓人每走一步都停下來閱讀說明。低風(fēng)險(xiǎn)、重復(fù)性的事務(wù)，本來就應(yīng)該流暢。技術(shù)替人省下不必要的注意力，是它真實(shí)的善意。

問題在于，流暢不能成為唯一標(biāo)準(zhǔn)。

當(dāng)AI在替人概括事實(shí)、排列對象、提出建議時(shí)，好的界面還應(yīng)承擔(dān)幾項(xiàng)樸素的義務(wù)：讓人看得出什么是原始材料，什么是機(jī)器推斷；標(biāo)明來源和不確定性；在關(guān)鍵處允許人返回較低的加工層；保留關(guān)閉、繞過和尋找其他意見的通道；界面更新以后，讓使用者知道地形已經(jīng)變化。

蘋果后來給AI摘要增加斜體和提示，并暫時(shí)關(guān)閉問題較大的新聞?wù)?。這些措施不能解決生成錯(cuò)誤本身，但至少承認(rèn)了一件事：界面有義務(wù)讓中介顯形。

接縫不是產(chǎn)品的傷疤，而是責(zé)任的標(biāo)記。

過去，好工具的最高境界常被說成“讓人忘記工具”。到了AI成為認(rèn)知中介的時(shí)代，我們也許需要補(bǔ)上相反的一句：

在會(huì)改變判斷起點(diǎn)的地方，好工具必須讓人記得工具仍在場。

因?yàn)槿丝吹降牟恢皇羌兇獾氖澜纾舶ㄒ粋€(gè)系統(tǒng)選擇怎樣把世界交到他手里。

界面不是窗口。它是一種對遭遇的設(shè)計(jì)。

相遇尚未發(fā)生，界面已經(jīng)先替我們決定了相遇的方式。當(dāng)世界這樣到達(dá)我們，最后那根手指按下的，究竟是一個(gè)決定，還是一個(gè)儀式？