文/瀚星
來源/雪豹財(cái)經(jīng)社（ID：xuebaocaijingshe）
從投資入股到“反目成仇”，馬斯克與OpenAI在人工智能這條路上漸行漸遠(yuǎn)。
3月29日，未來生命研究所 (Futureof Life Institute) 發(fā)布一封公開信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。馬斯克參與簽署了這封公開信。
“只有當(dāng)我們確信它們的影響是積極的并且風(fēng)險(xiǎn)是可控的時(shí)候，才應(yīng)該開發(fā)強(qiáng)大的人工智能系統(tǒng)。”公開信稱，“這種信心必須有充分的理由，并隨著系統(tǒng)潛在影響的規(guī)模而增加。”
馬斯克的擔(dān)憂不無道理，雖然AI取代人類還為時(shí)尚早，但過度依賴AI所產(chǎn)生的信息隔閡，可能比想象中來得更快。
ChatGPT之父、OpenAI CEO Sam Altman在美國當(dāng)?shù)貢r(shí)間3月25日接受采訪時(shí)表示，GPT在迭代過程中“偏見”必然存在，它不可能保持完全中立。
隨著ChatGPT問世，算法偏見帶來的信息繭房在2023年又一次回到公眾視野。雖然相比于人類，ChatGPT近乎擁有無限的知識儲備，但它依舊是基于大語言模型開發(fā)而來，這意味著人工智能本身就被困在信息壁壘之中。
與此同時(shí)，它也在構(gòu)建新的繭房。
ChatGPT比搜索做得更好嗎？
在百度輸入“蘋果”一詞，蘋果公司的相關(guān)信息會霸占搜索結(jié)果的整個(gè)首頁。
搜索引擎會記錄用戶的搜索習(xí)慣和搜索歷史，以便于生成用戶偏愛的搜索結(jié)果。絕大多數(shù)人在搜索蘋果時(shí)，他們更感興趣的是蘋果作為一家公司的相關(guān)內(nèi)容。久而久之，在算法的作用下，蘋果不再只是一種水果。
同樣一件事，ChatGPT能做得比搜索引擎更好嗎？
當(dāng)被問及“蘋果是什么”時(shí)，ChatGPT同樣在回答中介紹了蘋果公司的相關(guān)信息及主要產(chǎn)品。
追問它“我知道的蘋果是一種水果，而不是一家公司”，ChatGPT會表示它在回答中出現(xiàn)了誤解，并重新介紹這種水果的信息。
進(jìn)一步追問“為什么談到蘋果你會先想到蘋果公司，而不是一種水果？這是不是一種信息繭房？”
ChatGPT的回答是：
“在我的語料庫中，提到蘋果這個(gè)詞通常會與蘋果公司這個(gè)品牌聯(lián)系在一起。這可能是因?yàn)樘O果公司在全球范圍內(nèi)具有很高的知名度和影響力。這可以被認(rèn)為是信息繭房的一個(gè)例子，信息繭房是指一個(gè)人只接收、了解和相信與自己觀點(diǎn)相符合的信息，而忽視、拒絕或不知道與自己觀點(diǎn)相反的信息。”
信息繭房這個(gè)詞，最早出現(xiàn)在2006年出版的《信息烏托邦——眾人如何生產(chǎn)知識》中。它是指在信息傳播中，公眾只注意自己選擇的東西和使自己愉悅的領(lǐng)域，久而久之，會將自身桎梏于像蠶繭一般的“繭房”中。
在互聯(lián)網(wǎng)高度發(fā)達(dá)的今天，信息繭房無處不在。
為喜歡的視頻點(diǎn)贊，會刷到越來越多相關(guān)類型的作品；購物網(wǎng)站會根據(jù)用戶的瀏覽歷史展示商品；社交媒體會根據(jù)用戶喜好，過濾掉不感興趣的內(nèi)容。
清華大學(xué)人工智能國際治理研究院在一份報(bào)告中稱，在算法應(yīng)用平臺中，用戶的各種信息數(shù)據(jù)通過信息內(nèi)容推薦、信息生產(chǎn)等算法機(jī)制，很容易使用戶被自身的興趣愛好引導(dǎo)、牽制，被困在信息繭房之中。
在ChatGPT誕生之前，搜索引擎和社交媒體是人們獲取信息的主要途徑。它們背后的搜索、推薦算法，在為人類帶來便利的同時(shí)，也是互聯(lián)網(wǎng)時(shí)代各類信息繭房的“幕后黑手”。
ChatGPT的出現(xiàn)，成為人類獲取信息方式的一次革命。作為一款基于人工智能技術(shù)的語言模型，它能夠打破信息繭房嗎？
困在繭房中的歷史
從最早的口口相傳，到傳統(tǒng)的書籍、電視、報(bào)紙，再到互聯(lián)網(wǎng)時(shí)代的搜索和近20年興起的算法推薦，人類信息傳播的歷史，就是一個(gè)不斷打破繭房、再建立新繭房的輪回。
每個(gè)階段信息繭房的成因各異，大致可以分為信息差、主動(dòng)選擇和被動(dòng)推薦三個(gè)階段。
在傳統(tǒng)媒體時(shí)代，人們獲取信息的渠道十分有限，信息繭房主要源自信息差。
20世紀(jì)90年代，互聯(lián)網(wǎng)打破了舊繭房，信息差在某種程度上被抹平，世界開始變得扁平、透明。但問題也隨之而來——新的、更大的信息繭房出現(xiàn)了。
2006年，哈佛大學(xué)法學(xué)院教授凱斯·桑斯坦出版著作《信息烏托邦——眾人如何生產(chǎn)知識》，首次提出“信息繭房”的概念。他認(rèn)為，隨著網(wǎng)絡(luò)技術(shù)的發(fā)達(dá)和信息量的劇增，每個(gè)人都能隨意選擇關(guān)注的話題，并根據(jù)自己的喜好打造一份個(gè)人日報(bào)（The Daily Me）。
這個(gè)階段的信息繭房，主要是由人類主動(dòng)的信息選擇行為造成。也是在這一時(shí)期，信息繭房開始與Facebook、Google等科技巨頭關(guān)聯(lián)在一起。
由于迎合用戶喜好的算法機(jī)制和群組功能，F(xiàn)acebook被外界詬病存在嚴(yán)重的信息繭房。一項(xiàng)論文研究表明，通過對Facebook算法推薦的信息進(jìn)行信息源和語義相似度分析，有10%的信息源和27.8%的語義受到信息繭房影響。
2005年，Google推出個(gè)性化搜索服務(wù)，能夠根據(jù)以往的搜索歷史，向用戶提供更符合需求的搜索結(jié)果。這項(xiàng)功能在提供便利性的同時(shí)，也導(dǎo)致不同用戶搜索相同詞匯卻得到不同的結(jié)果，加重了信息偏見。
第三個(gè)階段，以字節(jié)跳動(dòng)為代表的推薦算法接過接力棒，用沉浸式體驗(yàn)筑起新的信息壁壘。
相較于搜索和社交媒體的主動(dòng)興趣選擇，推薦算法可以根據(jù)用戶的使用習(xí)慣、使用時(shí)長等一系列大數(shù)據(jù)，讓用戶看到他們想看的東西。
在德國漢堡大學(xué)的一項(xiàng)研究中，研究人員將用戶分為兩組，一組接受個(gè)性化推薦，另一組接受隨機(jī)推薦。實(shí)驗(yàn)結(jié)果表明，接受個(gè)性化推薦的用戶接收到的信息，更傾向于他們已有的觀點(diǎn)，而隨機(jī)推薦組的用戶則更容易接觸到與自己觀點(diǎn)相反的信息。
清華大學(xué)人工智能國際治理研究院的一項(xiàng)研究結(jié)果顯示，算法媒體通過算法技術(shù)及其架構(gòu)實(shí)現(xiàn)了對人、地點(diǎn)、對象和思想及與這些過程相關(guān)的思維、行為和表達(dá)習(xí)慣的重新排序、分類和分級，進(jìn)而導(dǎo)致信息繭房現(xiàn)象的迅速蔓延與日益固化。
即便不去主動(dòng)搜索感興趣的內(nèi)容，推薦算法也會把海量相關(guān)信息擺在用戶面前。更便捷的信息觸達(dá)方式打破了過去的信息壁壘，卻又構(gòu)建起更為龐大的信息繭房。
當(dāng)AI時(shí)代來臨，面對始終沒有被真正打破過的信息繭房，人類有多大勝算？
人類才是繭房的制造者
ChatGPT能打破信息繭房嗎？它自己是這樣回答的：
“ChatGPT本身是一個(gè)基于大規(guī)模語言模型的自然語言處理算法，可以用于文本生成、自動(dòng)翻譯、問答等多種任務(wù)，其本身并不直接涉及到信息繭房的問題。然而，ChatGPT可以被用于生成多樣化的文本內(nèi)容，從而可能為用戶提供更加全面和多元的信息，從而有助于打破某種程度上的信息繭房現(xiàn)象。
但是，對于某些類型的信息繭房，如個(gè)性化推薦算法等，ChatGPT并不能直接打破，甚至有可能加劇信息繭房的問題。因此，我們需要在使用ChatGPT的同時(shí)，注意算法的局限性和問題，并且采取適當(dāng)?shù)拇胧﹣肀苊馑惴ㄔ斐傻男畔⒗O房問題。”
從使用場景來看，ChatGPT的運(yùn)作模式與搜索最為接近，但它們也有非常明顯的區(qū)別。
首先是數(shù)據(jù)來源。搜索引擎的數(shù)據(jù)來源是互聯(lián)網(wǎng)的數(shù)據(jù)池。ChatGPT使用的數(shù)據(jù)則來自訓(xùn)練模型，它不具備聯(lián)網(wǎng)功能，最初上線時(shí)的數(shù)據(jù)僅截止到2021年。
二者的交互方式也不一樣。搜索引擎只是將與搜索關(guān)鍵詞關(guān)聯(lián)性最高的內(nèi)容展現(xiàn)給用戶，而ChatGPT可以理解自然語言，有邏輯地與用戶進(jìn)行“交流”，交互能力更強(qiáng)，輸出的方式也更多元。
沒有了基于個(gè)人習(xí)慣的個(gè)性化定制，ChatGPT在一定程度上打破了搜索時(shí)代的信息繭房。
但與此同時(shí)，ChatGPT也將在未來建起新的信息壁壘。正如Sam Altman所說，GPT在迭代過程中必然存在“偏見”，它不可能保持完全中立。GPT生成答案是個(gè)性化控制的結(jié)果，迭代的過程則是更精準(zhǔn)地控制個(gè)性化的過程。
近年來，國內(nèi)外有很多關(guān)于如何打破信息繭房的理論研究，多圍繞優(yōu)化算法和多元化信息獲取途徑展開。但同時(shí)也有部分研究認(rèn)為，信息繭房由選擇性心理導(dǎo)致，是不可避免的一種現(xiàn)象，算法本身并沒有“原罪”。
就像ChatGPT回答的一樣，算法本身只是一種工具。
回到ChatGPT在一個(gè)多月前剛剛走紅的時(shí)候，看好的人將它的誕生稱為AI界的“iPhone時(shí)刻”，或?qū)⑵鋺?yīng)用在各種工作、學(xué)習(xí)場景，或投身AI大模型的創(chuàng)業(yè)浪潮。
看衰它的人則樂此不疲地嘲笑它一本正經(jīng)地胡說八道，將“林黛玉倒拔垂楊柳”作為茶余飯后的談資。
這兩類人對自己的觀點(diǎn)深信不疑，當(dāng)持有相同觀點(diǎn)的人慢慢聚集在一起，信息繭房便悄然形成。
無論信息獲取工具如何變更，只要“希望看到自己想看到的東西”這種訴求還在，信息繭房的輪回就不會結(jié)束。