如果您問(wèn)您日常使用的智能手機(jī)語(yǔ)音助手是否害怕ChatGPT，您通常不會(huì)收到有趣或信息豐富的答案。那么這是一個(gè)問(wèn)題嗎？
自然語(yǔ)言處理 (NLP) 是人工智能研究的一個(gè)領(lǐng)域，它催生了語(yǔ)音助手和語(yǔ)言翻譯等實(shí)際應(yīng)用，但現(xiàn)在似乎受到了大型語(yǔ)言模型 (LLM)（例如 OpenAI 的 GPT-4）的威脅。最近在 r/Machinelearning Reddit 上發(fā)表的一篇文章總結(jié)了這種情緒，詢問(wèn)其他人是否“目睹了大型科技公司 NLP 組織內(nèi)部的恐慌？”
弗吉尼亞大學(xué)計(jì)算機(jī)科學(xué)助理教授Yangfeng Ji在學(xué)者和學(xué)生中觀察到類似的困擾，并且最近試圖通過(guò)指出LLM 不適合的 NLP 研究領(lǐng)域來(lái)平息這些恐懼?！熬退悴皇强只?，至少也可以說(shuō)是復(fù)雜的心情，”Ji說(shuō)。
研究人員擔(dān)心LLM的未知數(shù)。
Ji 相信研究人員有能力在新方法出現(xiàn)時(shí)采用新方法，但OpenAI最近 LLM 模型的成功給這項(xiàng)工作帶來(lái)了麻煩。LLM能夠完成許多任務(wù)，但最成功的LLM都是閉門造車。OpenAI 沒(méi)有詳細(xì)說(shuō)明 GPT-4 的功能，這是 OpenAI 最近的 LLM 模型，開發(fā)人員只能通過(guò) API 訪問(wèn)它。
“就個(gè)人而言，更糟糕的是我們甚至不知道它是否只是一個(gè)語(yǔ)言模型，”Ji 說(shuō)。他指出，LLM 支持的聊天機(jī)器人，如 ChatGPT、Bing Chat 和Google Bard，產(chǎn)生的結(jié)果超越了 LLM。他們似乎會(huì)隨著時(shí)間的推移更新自己的能力并從互聯(lián)網(wǎng)上獲取新數(shù)據(jù)（通常盡管模型聲稱，當(dāng)被問(wèn)到時(shí)，它缺乏這種能力）。人工智能模型通常需要訓(xùn)練才能對(duì)新數(shù)據(jù)采取行動(dòng)?！暗?，如果它是一個(gè)以 LLM 作為核心組件的軟件系統(tǒng)，那么這些問(wèn)題就很容易解決，”Ji 說(shuō)。
來(lái)自 OpenAI 和谷歌的 LLM 的不透明性讓研究人員陷入困境。這些模型在許多任務(wù)上明顯優(yōu)于過(guò)去的 NLP 研究，但外界只能猜測(cè)它們是如何實(shí)現(xiàn)這一目標(biāo)的。Ji 將此描述為閉源模型和開源模型之間的“神秘的性能差距”。
盡管如此，Ji 還是看到了 LLM 能力之外的大量 NLP 研究空間。他指出LLM如何繼續(xù)與道德問(wèn)題作斗爭(zhēng)，使他們不適合某些組織。它們也很難微調(diào)，并且會(huì)產(chǎn)生意想不到的結(jié)果。這些問(wèn)題在用于集思廣益蛋糕食譜或給朋友寫電子郵件時(shí)不太可能造成傷害，但“當(dāng)人們開始認(rèn)真對(duì)待這些系統(tǒng)并使用它們進(jìn)行實(shí)際工作時(shí)，它們就會(huì)成為主要障礙?！?/p>
Siri已死，Siri 萬(wàn)歲！
LLM的迅速崛起不僅僅是學(xué)術(shù)上的。Apple、Microsoft 和Amazon向各自的語(yǔ)音助手投資了數(shù)十億美元，每家都承諾提供智能、語(yǔ)音激活的助手，這些助手將成長(zhǎng)為有用的伙伴。努力沒(méi)有得到回報(bào)。亞馬遜最近幾輪裁員包括對(duì) Alexa 團(tuán)隊(duì)的大幅裁員，據(jù)報(bào)道，該團(tuán)隊(duì)在 2022 年損失了 100 億美元。微軟首席執(zhí)行官薩蒂亞納德拉最近稱語(yǔ)音助手“像石頭一樣愚蠢”，而 Cortana 幾乎被拋棄了。據(jù)報(bào)道，谷歌智能助理團(tuán)隊(duì)正在重組以協(xié)助巴德。只有 Apple 的 Siri 經(jīng)久不衰，盡管近年來(lái)的改進(jìn)已經(jīng)放緩至涓涓細(xì)流。
正如研究人員對(duì) LLM 的力量措手不及一樣，科技公司也對(duì)其廣泛的應(yīng)用毫無(wú)準(zhǔn)備。由 LLM 支持的聊天機(jī)器人，如 ChatGPT、Google Bard 和 Bing Chat，可以完成語(yǔ)音助手無(wú)法完成的任務(wù)（比如從頭開始編寫電子郵件），并且使用比預(yù)設(shè)語(yǔ)音更逼真、更引人入勝的語(yǔ)言來(lái)完成這些任務(wù)助理提供。
Pragmatic AI Labs 的創(chuàng)始人 Noah Gift認(rèn)為這是一個(gè)根本性的轉(zhuǎn)變?！岸嗄陙?lái)，數(shù)據(jù)科學(xué)的重點(diǎn)一直是調(diào)整超參數(shù)、清理數(shù)據(jù)，以及主要關(guān)注研究和技術(shù)與商業(yè)價(jià)值的對(duì)比，Stack Overflow 等網(wǎng)站就證明了這一點(diǎn)，”Gift 說(shuō)?！霸谖易罱鼘懙囊槐緯鳳ractical MLOps中，我預(yù)測(cè)數(shù)據(jù)科學(xué)會(huì)越來(lái)越少，而大型組織構(gòu)建的模型會(huì)越來(lái)越多，這在很大程度上正在發(fā)生。如果你在一家從事 NLP 工作但尚未投入生產(chǎn)的公司工作，那么是的，你可能非常擔(dān)心你的工作不再重要了。”
但是暫時(shí)不要刻 Siri 的墓碑。NLP 研究仍然很重要，即使實(shí)施它的策略在不斷發(fā)展。
微軟快速轉(zhuǎn)向人工智能就是一個(gè)例子。該公司與 OpenAI 的合作促成了多項(xiàng) GPT 支持的產(chǎn)品發(fā)布，包括 Github Copilot、Bing Chat 和 Microsoft 365 Copilot。微軟還沒(méi)有宣布新的語(yǔ)音助手，但第三方開發(fā)商已經(jīng)引入了瀏覽器插件，將這一功能硬塞進(jìn)了 ChatGPT。OpenAI 正式發(fā)布的 ChatGPT 插件已經(jīng)限量發(fā)布，很可能會(huì)為定制語(yǔ)音助手打開閘門——等等。
“我根本不相信語(yǔ)音是死胡同，事實(shí)上，隨著新的 LLM 進(jìn)入消費(fèi)產(chǎn)品領(lǐng)域，它會(huì)得到顯著改善，”Gift 說(shuō)?！白畛跽Z(yǔ)音的關(guān)鍵問(wèn)題可能是這些項(xiàng)目根本不如 OpenAI 和其他新興 LLM 技術(shù)提供商使用的技術(shù)。我看到文本和語(yǔ)音 LLM 的使用為他們的技術(shù)創(chuàng)造了巨大的市場(chǎng)?！?/p>