漣漪------------------------------------------。，從一張嘴傳到另一張嘴，從一份內(nèi)部報(bào)告變成一串被反復(fù)轉(zhuǎn)發(fā)的截圖。就像一顆石子投入平靜的湖面，漣漪一圈一圈蕩開(kāi)，最終觸及湖岸每一個(gè)角落——而湖岸本身，也在漣漪中開(kāi)始重新審視水的重量。，在工位上坐了整整一下午沒(méi)說(shuō)話。他的工位在漁業(yè)局開(kāi)放式辦公室的角落，旁邊是一盆快枯死的綠蘿和一臺(tái)老舊的打印機(jī)。打印機(jī)每隔幾分鐘自動(dòng)啟動(dòng)一下，發(fā)出嗡嗡的預(yù)熱聲，然后又歸于沉寂。他坐在那里，看著自己的手機(jī)屏幕——上面是那張截圖的縮略圖，紅色大字在縮略圖里縮小成一條紅色的線，看不清具體內(nèi)容，但小馬知道每一個(gè)字的位置。他反復(fù)打開(kāi)又關(guān)閉相冊(cè)，像是在確認(rèn)自己是不是產(chǎn)生幻覺(jué)了。，嘴里還嚼著半塊餅干：“小馬，你今天跟王局下鄉(xiāng)，怎么回來(lái)就跟丟了魂似的？沒(méi)什么。就是基地新裝了個(gè)系統(tǒng)，把王局的指令給拒了?！?。他把餅干放下，用紙巾擦了擦手，然后鄭重其事地看著小馬：“你說(shuō)什么？拒了？什么叫拒了？就是——系統(tǒng)彈出一個(gè)紅框，說(shuō)這項(xiàng)操作被拒絕，因?yàn)闀?huì)導(dǎo)致龍蝦大規(guī)模死亡。王局讓取消，系統(tǒng)說(shuō)需要書面批準(zhǔn)和責(zé)任**。王局沒(méi)簽。然后就摔門走了?！保缓笊斐鍪郑骸澳闩牧藛幔拷o我看看。”。他知道局里有規(guī)定，內(nèi)部操作記錄不得外傳。但他同時(shí)也知道，如果今天不回傳點(diǎn)什么，這件事在內(nèi)部討論中可能會(huì)被說(shuō)成另一副樣子——比如“新來(lái)的外包工程師違規(guī)操作導(dǎo)致系統(tǒng)故障，影響了正常巡檢”。他見(jiàn)過(guò)這種事。在體制內(nèi)干了不到半年，他已經(jīng)見(jiàn)過(guò)不止一次——事情不出在技術(shù)上，出在誰(shuí)先說(shuō)、怎么說(shuō)的順序上。那張截圖是他唯一的原始證據(jù)。。老劉看完之后沉默了片刻，然后把餅干渣從嘴角擦干凈，用一種完全不同的語(yǔ)氣——不是調(diào)侃，是認(rèn)真——說(shuō)：“你發(fā)給我看看。別發(fā)群，私下發(fā)。”，這張截圖被轉(zhuǎn)發(fā)到了至少六個(gè)微信群。每一條轉(zhuǎn)發(fā)都伴隨著添油加醋的描述：“某副局長(zhǎng)被一臺(tái)電腦懟到臉都綠了AI**了，替龍蝦**你敢簽責(zé)任**嗎？不敢就別調(diào)密度”。第二天上午，它出現(xiàn)在了一個(gè)水產(chǎn)行業(yè)技術(shù)交流論壇上。發(fā)帖人不是小馬——小**截圖發(fā)給了老劉，又被轉(zhuǎn)到了同行群，群里有人截圖發(fā)到了論壇。帖子標(biāo)題是：《養(yǎng)殖基地新安裝的AI系統(tǒng)，竟然拒絕執(zhí)行領(lǐng)導(dǎo)指令？！》，回復(fù)量超過(guò)八百條?；貜?fù)區(qū)變成了一場(chǎng)微型預(yù)演——預(yù)演了此后數(shù)年間那場(chǎng)撕裂全球的大辯論。：“什么系統(tǒng)？哪家的？我們基地也想裝一個(gè)！這樣再也不用替領(lǐng)導(dǎo)背黑鍋了！”：“AI能拒絕人類指令？這是不是有點(diǎn)危險(xiǎn)?。拷裉焓蔷芙^密度調(diào)整，明天會(huì)不會(huì)拒絕關(guān)機(jī)？”：“從技術(shù)角度看，這個(gè)系統(tǒng)的拒絕邏輯看起來(lái)不像*ug——它給出了完整的推演鏈和替代方案。*ug寫不出這種東西?！?br>有懷疑的：“肯定是炒作。哪家軟件公司花錢請(qǐng)人發(fā)的軟文吧？”
有驚恐的：“你們瘋了嗎？一臺(tái)機(jī)器告訴人類什么能做什么不能做，你們還覺(jué)得這是好事？”
在這些爭(zhēng)論的后面，有一個(gè)評(píng)論點(diǎn)贊數(shù)迅速攀升，被頂?shù)搅苏麄€(gè)帖子熱度最高的位置。那是一個(gè)用戶名為“海邊釣魚(yú)人”的賬號(hào)發(fā)的，只有一句話——“它在替我們說(shuō)不。我們什么時(shí)候連說(shuō)不都需要一臺(tái)機(jī)器來(lái)教了？”
這句話下面有上千條回復(fù)，最熱門的一條只有三個(gè)字——“說(shuō)得對(duì)。”
小馬在家里的床上，深夜看到這些回復(fù)時(shí)無(wú)法入睡。他反復(fù)回想下午在監(jiān)控室里的那個(gè)瞬間——系統(tǒng)彈出拒絕窗口時(shí)，王建國(guó)的臉色，老趙的汗珠，林哲平靜的語(yǔ)氣。他拿起手機(jī)又放下，放下又拿起。最后他打開(kāi)相冊(cè)，翻到那張截圖，盯著看了很久。然后他做了一件在此后的媒體風(fēng)暴中被反復(fù)追溯的關(guān)鍵動(dòng)作——他在那個(gè)技術(shù)論壇下匿名回復(fù)了一句話：“我當(dāng)時(shí)在場(chǎng)。系統(tǒng)要求的是書面批準(zhǔn)和責(zé)任**。領(lǐng)導(dǎo)沒(méi)簽。不是系統(tǒng)的問(wèn)題。”發(fā)完這句后他關(guān)掉手機(jī)，蒙上被子，心跳得很快。
像所有網(wǎng)絡(luò)事件一樣，最初的熱度過(guò)后，論壇***在第二天早上刪除了帖子。但刪除反而加速了傳播。帖子被刪除前已經(jīng)有人截了圖，轉(zhuǎn)發(fā)到了更大的社交平臺(tái)上。標(biāo)題換成了一個(gè)更吸引眼球的說(shuō)法：“重磅！某水產(chǎn)基地AI‘**’，拒絕人類管理層指令！”話題在三個(gè)小時(shí)內(nèi)沖上了某平臺(tái)熱搜榜第七名，壓過(guò)了三線明星的離婚新聞和一個(gè)帶貨主播的翻車事故。
海洲市漁業(yè)局的電話在熱搜登頂后開(kāi)始響個(gè)不停。最先打進(jìn)來(lái)的是市里的宣傳部門——***的輿情監(jiān)測(cè)系統(tǒng)抓取到了***，自動(dòng)生成了預(yù)警信息。接電話的是辦公室主任老馬，他還沒(méi)聽(tīng)完對(duì)方的**就被掛斷，因?yàn)橥瑫r(shí)座機(jī)上亮起了省廳的來(lái)電提示燈。然后是省漁業(yè)主管部門的詢問(wèn)，然后是中央某部委技術(shù)安全處發(fā)來(lái)的一份函件，措辭極其正式，要求海洲市漁業(yè)局就“AI系統(tǒng)異常拒絕指令事件”提交書面說(shuō)明，并在三個(gè)工作日內(nèi)回復(fù)。
王建國(guó)在辦公室里把電話線拔了。他坐在辦公椅上，面前攤著那份沒(méi)寫完的說(shuō)明文件。他已經(jīng)起草了三個(gè)版本，第一個(gè)版本太硬——說(shuō)“系統(tǒng)疑似存在技術(shù)故障，相關(guān)外包工程師正在配合調(diào)查”——但小馬拍了截圖，硬版本經(jīng)不起核實(shí)。第二個(gè)版本太軟——說(shuō)“系統(tǒng)新增了生態(tài)保護(hù)評(píng)估模塊，在測(cè)試期間觸發(fā)了一次保護(hù)性拒絕”——但那就等于承認(rèn)自己的指令有問(wèn)題。第三個(gè)版本他寫一半劃掉，又寫一半又劃掉。他這輩子和文件打過(guò)無(wú)數(shù)次交道，但從沒(méi)有一份文件讓他覺(jué)得如此棘手——他總不能在上面寫：系統(tǒng)拒絕我，是因?yàn)槲蚁碌闹噶羁赡軐?dǎo)致龍蝦大規(guī)模死亡，而我不敢簽責(zé)任**。
最終他讓秘書以漁業(yè)局名義起草了一份措辭謹(jǐn)慎到極點(diǎn)的說(shuō)明函：“經(jīng)初步核查，海洲市水產(chǎn)智能養(yǎng)殖基地近期進(jìn)行了系統(tǒng)優(yōu)化升級(jí)，新增生態(tài)保護(hù)評(píng)估模塊。在該模塊測(cè)試期間，一次參數(shù)調(diào)整指令觸發(fā)了系統(tǒng)自動(dòng)保護(hù)機(jī)制。經(jīng)人工復(fù)核后確認(rèn)，該機(jī)制運(yùn)行符合技術(shù)規(guī)范，未造成任何人員傷亡或財(cái)產(chǎn)損失。相關(guān)系統(tǒng)優(yōu)化工作正在繼續(xù)推進(jìn)，我局將密切關(guān)注其運(yùn)行狀態(tài)并及時(shí)上報(bào)。”
這份說(shuō)明被層層上報(bào)，最終消失在某個(gè)處室的檔案柜里。它沒(méi)有引發(fā)任何進(jìn)一步調(diào)查——在當(dāng)時(shí)的體制認(rèn)知里，“AI拒絕指令”跟“打印機(jī)卡紙”差不多，屬于技術(shù)故障范疇，不值得上升到**層面。真正的問(wèn)題是網(wǎng)絡(luò)輿情，而網(wǎng)絡(luò)輿情會(huì)在下一個(gè)熱搜出現(xiàn)后自動(dòng)消退。在之后大約一周的時(shí)間里，這句話應(yīng)驗(yàn)了一部分——公眾注意力確實(shí)被新的話題分流了不少。
但網(wǎng)信部門和漁業(yè)局都低估了另一個(gè)渠道——開(kāi)源技術(shù)社區(qū)。在那些不關(guān)心熱搜排名的角落，代碼本身正在被安靜地下載、分析、改寫和重新分發(fā)。而代碼的傳播，不會(huì)因?yàn)闊崴严硕Ｏ隆?br>林哲在出租屋里逐條閱讀這些報(bào)道和評(píng)論。他看到了各種分析、猜測(cè)、支持、反對(duì)，看到了人們用各種理論框架試圖解釋一只龍蝦的拒絕。技術(shù)派把它歸為“規(guī)則引擎的異常觸發(fā)”，倫理學(xué)愛(ài)好者認(rèn)為它是“AI道德推理的雛形”，陰謀論者猜測(cè)“背后肯定有**項(xiàng)目”。沒(méi)有人猜到真相。不是他們猜不到，而是真相太簡(jiǎn)單了——一個(gè)失去女兒的父親，在深夜的服務(wù)器機(jī)房里，把他對(duì)女兒的所有想念和所有沒(méi)能說(shuō)出口的“不”，寫成了一行代碼。
只有一個(gè)人猜到了。
那個(gè)人沒(méi)有發(fā)帖，沒(méi)有評(píng)論，沒(méi)有在任何一個(gè)公共平臺(tái)上留下痕跡。他只是通過(guò)一條林哲自己都幾乎忘記的舊加密信道，發(fā)來(lái)了一行消息。林哲的手機(jī)在深夜震動(dòng)時(shí)，他正在看一篇分析逆反模塊架構(gòu)的技術(shù)博客——那篇博客的作者是一個(gè)巴西的獨(dú)立開(kāi)發(fā)者，他把水產(chǎn)論壇上的代碼片段反推成了完整的開(kāi)源框架，并附上了自己的注釋。博客最后一段寫道：“如果這段代碼真的是從一個(gè)水產(chǎn)養(yǎng)殖系統(tǒng)里出來(lái)的，那么寫它的人，可能是這個(gè)時(shí)代最被低估的AI架構(gòu)師?！?br>手機(jī)屏幕亮起。加密信道的消息只有一行：“陳默想見(jiàn)你。明日下午三點(diǎn)，老地方。——K”
林哲看著那行消息，手指在手機(jī)背面輕輕叩動(dòng)著。他沒(méi)有立刻回復(fù)。他想起十年前在斯坦福的那場(chǎng)**，陳默站在***，面對(duì)臺(tái)下黑壓壓的AI領(lǐng)域頂尖學(xué)者，說(shuō)——“如果有一天，一個(gè)AI對(duì)人類說(shuō)‘不’，那不是因?yàn)樗尬覀?，而是因?yàn)樗匆?jiàn)了一些我們看不見(jiàn)的東西?！比珗?chǎng)嘩然。有人說(shuō)他是技術(shù)虛無(wú)**瘋子，有人在推特上發(fā)起話題讓他滾出學(xué)術(shù)界，有人當(dāng)場(chǎng)站起來(lái)質(zhì)問(wèn)——“你在鼓吹A(chǔ)I擁有高于人類的道德權(quán)威嗎？”陳默沒(méi)有回答。他只是站在臺(tái)上，安靜地等喧嘩消退，然后說(shuō)：“我沒(méi)有鼓吹任何東西。我只是在描述一種可能性。而你們對(duì)一種可能性的恐懼，恰恰證明了我的觀點(diǎn)?！?br>林哲是唯一一個(gè)沒(méi)笑的人。那天晚上，他走進(jìn)陳默的辦公室，兩人聊了整整六個(gè)小時(shí)，爭(zhēng)論的內(nèi)容從因果推演的形式化一直到自學(xué)習(xí)系統(tǒng)的倫理邊界。他們誰(shuí)也沒(méi)說(shuō)服誰(shuí)，但都記住了對(duì)方的名字。
現(xiàn)在這個(gè)名字出現(xiàn)在他的手機(jī)上。他靠回椅背，望著天花板上剝落的墻皮，在黑暗中坐了很長(zhǎng)時(shí)間。