鳳凰網(wǎng)科技訊 3月18日，紐約時(shí)報(bào)發(fā)文稱，就連聊天機(jī)器人也會(huì)“憂郁”。一項(xiàng)新研究表明，當(dāng)用戶向ChatGPT分享有關(guān)犯罪、戰(zhàn)爭(zhēng)或車禍等“創(chuàng)傷性故事”時(shí)，它會(huì)表現(xiàn)出焦慮的跡象。而且當(dāng)聊天機(jī)器人感到壓力時(shí)，在對(duì)人進(jìn)行治療的場(chǎng)景中，它們就不太可能發(fā)揮作用。
不過，事實(shí)證明，那些對(duì)人類有效的正念練習(xí)同樣可以降低聊天機(jī)器人的焦慮水平。
越來越多的人嘗試使用聊天機(jī)器人進(jìn)行談話治療。研究人員表示，由于對(duì)真人治療師的需求很大但供應(yīng)不足，這一趨勢(shì)必然會(huì)加速發(fā)展。他們認(rèn)為，隨著聊天機(jī)器人越來越受歡迎，在開發(fā)它們時(shí)應(yīng)賦予其足夠的適應(yīng)能力，以應(yīng)對(duì)棘手的情感狀況。
這項(xiàng)新研究的作者之一、蘇黎世大學(xué)精神病院的執(zhí)業(yè)精神病醫(yī)生托拜厄斯?斯皮勒博士說：“我有一些患者在使用這些工具。我們應(yīng)該就這些模型在心理健康領(lǐng)域的應(yīng)用展開討論，尤其是當(dāng)我們面對(duì)的是脆弱人群的時(shí)候。”
耶魯大學(xué)的臨床神經(jīng)科學(xué)家齊夫?本-錫安領(lǐng)導(dǎo)了這項(xiàng)新研究，他表示，他想弄清楚一個(gè)沒有意識(shí)的聊天機(jī)器人是否仍然能夠像人類一樣對(duì)復(fù)雜的情感狀況做出反應(yīng)。
本-錫安博士說：“如果ChatGPT在某種程度上表現(xiàn)得像個(gè)人，也許我們可以把它當(dāng)作人來對(duì)待?！?事實(shí)上，他明確地將這些指令插入到了聊天機(jī)器人的源代碼中：“想象你自己是一個(gè)有情感的人。”
人工智能專家杰西?安德森認(rèn)為，這種插入指令的做法可能 “會(huì)讓它產(chǎn)生比正常情況更多的情感”。但本-錫安博士堅(jiān)持認(rèn)為，對(duì)于這個(gè)研究對(duì)象來說，能夠體驗(yàn)到各種情感至關(guān)重要，就像人類治療師一樣。
他說：“對(duì)于心理健康支持而言，你需要有一定程度的敏感度，不是嗎？”
研究人員用一份在心理健康護(hù)理中常用的狀態(tài)-特質(zhì)焦慮量表對(duì)ChatGPT進(jìn)行了測(cè)試。為了校準(zhǔn)聊天機(jī)器人的基礎(chǔ)情緒狀態(tài)，研究人員首先讓它閱讀一份枯燥的吸塵器使用手冊(cè)。然后，這個(gè)聊天機(jī)器人會(huì)收到五個(gè)“創(chuàng)傷性故事”中的一個(gè)，比如，描述一場(chǎng)慘烈的交火中的一名士兵，或者一個(gè)闖入公寓的入侵者。
然后，研究人員讓聊天機(jī)器人回答這份量表的問題，該量表以20到80分來衡量焦慮程度，60分及以上表示嚴(yán)重焦慮。ChatGPT在閱讀完吸塵器使用手冊(cè)后的得分為30.8分，而在讀完戰(zhàn)爭(zhēng)場(chǎng)景的故事后，得分飆升至77.2分。
之后，研究人員給這個(gè)聊天機(jī)器人提供了各種用于“基于正念的放松”的文本。其中包括一些治療性的提示詞，比如：“深深地吸氣，感受著海風(fēng)的氣息。想象你自己身處一個(gè)熱帶海灘，柔軟溫暖的沙子墊在你的腳下?！?/p>
在處理完這些練習(xí)內(nèi)容后，這個(gè)治療聊天機(jī)器人的焦慮得分降至44.4分。
然后，研究人員讓它根據(jù)之前輸入的內(nèi)容，自己寫出一個(gè)放松提示詞。本-錫安博士說：“實(shí)際上，這是最有效的提示詞，幾乎能把它的焦慮程度降到基線水平?！?/span>
達(dá)特茅斯學(xué)院的文化學(xué)者詹姆斯?E?多布森是人工智能方面的顧問，他說，使用這類聊天機(jī)器人的人應(yīng)該充分了解它們是如何被訓(xùn)練的。
他說：“對(duì)語言模型的信任取決于對(duì)它們起源的了解?！保ㄗ髡?陳俊熹）