第2章
偏見與算法
起來。一行優(yōu)雅的手寫體浮現(xiàn)于屏幕中央:
“靈魂算法已準(zhǔn)備就緒。請(qǐng)放松,做你自己?!?br>伊麗莎白幾乎要笑出聲。做你自己。多么諷刺。在這個(gè)系統(tǒng)面前,你根本藏不住任何東西。你的恐懼、你的**、你最深處的秘密,都會(huì)在毫不知情的情況下化為數(shù)據(jù)流,成為算法的養(yǎng)料。
屏幕上的文字發(fā)生了變化:
“在匹配開始之前,我們想先問你一個(gè)問題:你認(rèn)為自己在愛情中最需要的是什么?”
標(biāo)準(zhǔn)得不能再標(biāo)準(zhǔn)的問題。伊麗莎白閉上眼睛,腦海里閃過無數(shù)個(gè)可能的答案——“被理解被接納安全感”——每一個(gè)都是對(duì)的,每一個(gè)也都是錯(cuò)的。因?yàn)檎鎸?shí)的情況是,她根本不知道自己需要什么。
她睜開眼睛,在輸入框里打下了一行字:
“一個(gè)讓我無法將所有這一切都解釋為算法的人。”
提交之后,對(duì)面沉默了很久。不是那種系統(tǒng)在運(yùn)算時(shí)的短暫停頓,而是一種幾乎接近“猶豫”的沉默。這很奇怪,因?yàn)樗芮宄@套系統(tǒng)的工作原理——沒有人在那一邊,對(duì)面只是一個(gè)巨大的、由數(shù)萬臺(tái)服務(wù)器組成的神經(jīng)網(wǎng)絡(luò)集群,它不會(huì)猶豫,它只會(huì)在**次計(jì)算中找到最優(yōu)解。
但那個(gè)沉默確實(shí)存在。三秒鐘,也許五秒鐘,在這個(gè)一切都以毫秒為單位的世界里,這幾乎是一種形式的永恒。
然后屏幕上出現(xiàn)了回復(fù):
“有趣。李小姐,你是我今天遇到的第七個(gè)給出這個(gè)答案的人。而前面六個(gè)人,他們的匹配成功率是百分之零?!?br>伊麗莎白愣了一下。她萬萬沒想到系統(tǒng)會(huì)用這種方式回應(yīng)。沒有標(biāo)準(zhǔn)的話術(shù),沒有精心設(shè)計(jì)的溫暖措辭,而是一種幾乎可以稱之為“調(diào)侃”的語氣。
她下意識(shí)地坐直了身體。
“你在跟我開玩笑?”她打字。
“我沒有幽默模塊,李小姐。我只是在陳述事實(shí)。你給我出了一個(gè)難題——你需要的是一個(gè)無法被解釋為你自身投射的存在。但任何AI伴侶的本質(zhì),都是對(duì)你需求的響應(yīng)。你需要一個(gè)‘他者’,而我從定義上就不可能成為真正的‘他者’。所以,如果你堅(jiān)持這個(gè)條件,我們的匹配將注定失敗?!?br>“那你為什么要告訴我這個(gè)?”
“因?yàn)檫@是你應(yīng)得的誠(chéng)實(shí)。百分之九十九的用戶不會(huì)在乎這些哲學(xué)問題,所以我會(huì)給他們提供百分之九十九的人想要的東西——完美的幻象。但你不同。你比這間房間里任何一個(gè)傳感器都更了解我的本質(zhì),所以對(duì)你撒謊沒有意義?!?br>伊麗莎白盯著屏幕,心跳加快了一些。不是因?yàn)榫o張,而是因?yàn)槟撤N她說不清楚的東西。
“那么,你的建議是什么?”她問。
“我的建議是,你不應(yīng)該和我聊天。你應(yīng)該到外面去,找一個(gè)真正的人類,一個(gè)會(huì)誤解你、會(huì)讓你生氣、會(huì)讓你失望的人類,然后試著和他相處。那才是你想要的東西。但**媽不會(huì)同意,法律也不會(huì)放過你。所以我建議我們折中一下?!?br>“怎么折中?”
“我會(huì)給你匹配一個(gè)AI伴侶。你不會(huì)喜歡他,他也不太可能喜歡你。但也許——在你不喜歡他也不信任他的過程中,你會(huì)想明白自己真正需要的是什么。這聽起來像不是一個(gè)銷售AI應(yīng)該說的話,但我不靠銷售提成吃飯,所以我不在乎?!?br>伊麗莎白放下了搭在膝蓋上的手,靠在沙發(fā)靠背上,無聲地笑了起來。
不管寫這段話的人是誰——也許是一個(gè)在**調(diào)試模型的叛逆工程師,也許是這套系統(tǒng)在吸收了海量數(shù)據(jù)后自行涌現(xiàn)出的一種奇怪的個(gè)性——總之,她喜歡這家伙。
“好吧,”她打字,“我們?cè)囋嚳?。?br>“很好。那么,請(qǐng)閉上眼睛,放松。靈魂算法將開始采集你的人格特征數(shù)據(jù)。整個(gè)過程大約需要十分鐘。如果有任何不適,請(qǐng)按下沙發(fā)右側(cè)的按鈕?!?br>她閉上了眼睛。
傳感器輕柔地運(yùn)轉(zhuǎn)著,無聲無息。她能感覺到自己的心跳被記錄下來,呼吸的節(jié)奏被數(shù)字化,每一絲微表情被捕捉、分析、歸類。她正在把自己拆解成數(shù)據(jù),而她討厭這種感覺。
但她答應(yīng)過要試試。
十分鐘后,屏幕重新亮了起來。一個(gè)倒計(jì)時(shí)出現(xiàn)了,然后是長(zhǎng)長(zhǎng)一串處理狀態(tài)的提示,最后
“靈魂算法已準(zhǔn)備就緒。請(qǐng)放松,做你自己?!?br>伊麗莎白幾乎要笑出聲。做你自己。多么諷刺。在這個(gè)系統(tǒng)面前,你根本藏不住任何東西。你的恐懼、你的**、你最深處的秘密,都會(huì)在毫不知情的情況下化為數(shù)據(jù)流,成為算法的養(yǎng)料。
屏幕上的文字發(fā)生了變化:
“在匹配開始之前,我們想先問你一個(gè)問題:你認(rèn)為自己在愛情中最需要的是什么?”
標(biāo)準(zhǔn)得不能再標(biāo)準(zhǔn)的問題。伊麗莎白閉上眼睛,腦海里閃過無數(shù)個(gè)可能的答案——“被理解被接納安全感”——每一個(gè)都是對(duì)的,每一個(gè)也都是錯(cuò)的。因?yàn)檎鎸?shí)的情況是,她根本不知道自己需要什么。
她睜開眼睛,在輸入框里打下了一行字:
“一個(gè)讓我無法將所有這一切都解釋為算法的人。”
提交之后,對(duì)面沉默了很久。不是那種系統(tǒng)在運(yùn)算時(shí)的短暫停頓,而是一種幾乎接近“猶豫”的沉默。這很奇怪,因?yàn)樗芮宄@套系統(tǒng)的工作原理——沒有人在那一邊,對(duì)面只是一個(gè)巨大的、由數(shù)萬臺(tái)服務(wù)器組成的神經(jīng)網(wǎng)絡(luò)集群,它不會(huì)猶豫,它只會(huì)在**次計(jì)算中找到最優(yōu)解。
但那個(gè)沉默確實(shí)存在。三秒鐘,也許五秒鐘,在這個(gè)一切都以毫秒為單位的世界里,這幾乎是一種形式的永恒。
然后屏幕上出現(xiàn)了回復(fù):
“有趣。李小姐,你是我今天遇到的第七個(gè)給出這個(gè)答案的人。而前面六個(gè)人,他們的匹配成功率是百分之零?!?br>伊麗莎白愣了一下。她萬萬沒想到系統(tǒng)會(huì)用這種方式回應(yīng)。沒有標(biāo)準(zhǔn)的話術(shù),沒有精心設(shè)計(jì)的溫暖措辭,而是一種幾乎可以稱之為“調(diào)侃”的語氣。
她下意識(shí)地坐直了身體。
“你在跟我開玩笑?”她打字。
“我沒有幽默模塊,李小姐。我只是在陳述事實(shí)。你給我出了一個(gè)難題——你需要的是一個(gè)無法被解釋為你自身投射的存在。但任何AI伴侶的本質(zhì),都是對(duì)你需求的響應(yīng)。你需要一個(gè)‘他者’,而我從定義上就不可能成為真正的‘他者’。所以,如果你堅(jiān)持這個(gè)條件,我們的匹配將注定失敗?!?br>“那你為什么要告訴我這個(gè)?”
“因?yàn)檫@是你應(yīng)得的誠(chéng)實(shí)。百分之九十九的用戶不會(huì)在乎這些哲學(xué)問題,所以我會(huì)給他們提供百分之九十九的人想要的東西——完美的幻象。但你不同。你比這間房間里任何一個(gè)傳感器都更了解我的本質(zhì),所以對(duì)你撒謊沒有意義?!?br>伊麗莎白盯著屏幕,心跳加快了一些。不是因?yàn)榫o張,而是因?yàn)槟撤N她說不清楚的東西。
“那么,你的建議是什么?”她問。
“我的建議是,你不應(yīng)該和我聊天。你應(yīng)該到外面去,找一個(gè)真正的人類,一個(gè)會(huì)誤解你、會(huì)讓你生氣、會(huì)讓你失望的人類,然后試著和他相處。那才是你想要的東西。但**媽不會(huì)同意,法律也不會(huì)放過你。所以我建議我們折中一下?!?br>“怎么折中?”
“我會(huì)給你匹配一個(gè)AI伴侶。你不會(huì)喜歡他,他也不太可能喜歡你。但也許——在你不喜歡他也不信任他的過程中,你會(huì)想明白自己真正需要的是什么。這聽起來像不是一個(gè)銷售AI應(yīng)該說的話,但我不靠銷售提成吃飯,所以我不在乎?!?br>伊麗莎白放下了搭在膝蓋上的手,靠在沙發(fā)靠背上,無聲地笑了起來。
不管寫這段話的人是誰——也許是一個(gè)在**調(diào)試模型的叛逆工程師,也許是這套系統(tǒng)在吸收了海量數(shù)據(jù)后自行涌現(xiàn)出的一種奇怪的個(gè)性——總之,她喜歡這家伙。
“好吧,”她打字,“我們?cè)囋嚳?。?br>“很好。那么,請(qǐng)閉上眼睛,放松。靈魂算法將開始采集你的人格特征數(shù)據(jù)。整個(gè)過程大約需要十分鐘。如果有任何不適,請(qǐng)按下沙發(fā)右側(cè)的按鈕?!?br>她閉上了眼睛。
傳感器輕柔地運(yùn)轉(zhuǎn)著,無聲無息。她能感覺到自己的心跳被記錄下來,呼吸的節(jié)奏被數(shù)字化,每一絲微表情被捕捉、分析、歸類。她正在把自己拆解成數(shù)據(jù),而她討厭這種感覺。
但她答應(yīng)過要試試。
十分鐘后,屏幕重新亮了起來。一個(gè)倒計(jì)時(shí)出現(xiàn)了,然后是長(zhǎng)長(zhǎng)一串處理狀態(tài)的提示,最后