當前，AI雖然已經(jīng)在諸多領域展現(xiàn)出巨大潛力和廣泛影響力，但快速發(fā)展的背后，法律和倫理建設尚未跟上，一些令人憂慮的現(xiàn)象浮出水面。
（IC photo / 圖）
前段時間，開放人工智能研究中心（OpenAI）推出GPT商店——這有點像是我們手機里的應用商店，讓開發(fā)者可以售賣自己定制的GPT機器人。在這家新的GPT商店搜索“女友”，結果欄里就會出現(xiàn)多個人工智能（AI）聊天機器人“女友”。
“AI女友”的普及也催生了一種新的社交現(xiàn)象，并引發(fā)倫理和法律邊界的模糊化問題，尤其是一些商家借AI女友進行擦邊球式的黃色交易，使原本旨在提升人類生活質量的“AI陪伴”陷入道德爭議的漩渦。
越來越強大的AI，在人類情感陪伴上起到越來越重要的作用，從AI女友到AI復活親人，都是“陪伴”的一種形式。
AI陪伴應該確立怎樣的邊界，如何避免人們“沉迷”？如果AI女友導向黃色交易，會對AI行業(yè)造成怎樣的打擊？
AI陪伴的意義
所謂AI陪伴，是指通過智能算法和大數(shù)據(jù)分析來模擬人類的情感、思維和行為，從而與用戶建立起一種親密的、互動的關系，理解和回應用戶的情緒狀態(tài)，提供情感支持和慰藉，比如通過聊天、傾聽和提供建議來緩解用戶的孤獨感，滿足用戶的陪伴需求。
AI陪伴不限于物理實體的機器人，也包括軟件應用、虛擬助手等形式；AI陪伴不受時間和空間限制，可以隨時隨地響應用戶的需求。
AI陪伴確實有其價值。比如對于那些在生活中感到孤獨或者存在社交障礙的人群來說，AI女友可以提供及時的情感反饋和心理安慰，幫助用戶舒緩壓力、排解孤獨。對于那些不愿意面對傳統(tǒng)戀愛關系壓力的人來說，AI女友可以作為一個相對安全、無壓力的互動對象。
又比如，最近中文互聯(lián)網(wǎng)上受到廣泛關注的AI復活親人，也是AI陪伴的一種形態(tài)。AI復活親人，是通過AI技術構建一個基于已故親友信息的數(shù)字化身，這個化身不僅具有陪伴的功能，而且力求模仿逝者的外貌、聲音、行為習慣甚至性格特點，讓用戶感受到與逝去親人再次接觸的可能性。
2021年，知名音樂人包小柏22歲的女兒包容因病去世，近日，他用AI“復活”女兒給妻子唱了生日歌。他感慨：“AI就是寄托思念的工具，也是一種對思念的表達方式?！盇I復活親人，一定程度上可以提供心理上的安慰和支持，幫助用戶緩解失去親人的痛苦和孤獨感。
（IC photo / 圖）
AI陪伴的邊界
很顯然，AI陪伴在設計、開發(fā)及應用過程中應確立一系列倫理與法律邊界，確保技術的健康發(fā)展和社會的和諧穩(wěn)定。
只是，這個邊界應該是什么樣的？
在前機器人時代，科幻小說家阿西莫夫曾提出著名的“機器人三原則”（Three Laws of Robotics），用于指導虛構作品中的機器人行為。第一條法則：機器人不得傷害人類，或因不作為而導致人類受到傷害；第二條法則：機器人必須服從人類的命令，除非這條命令與第一條法則相沖突；第三條法則：機器人必須保護自己的存在，但前提是這種保護行動不能違反第一或第二條法則。
雖然AI并不是傳統(tǒng)意義上的機器人，它們可能沒有實體形態(tài)，也沒有自我保護的需求，AI的行為和決策是基于算法和數(shù)據(jù)的，而不是基于機械的物理規(guī)律。
但是機器人三原則仍然可以為AI的發(fā)展提供一些有益的指導，那就是——AI應該被設計為尊重人類的價值觀和道德準則，避免對人類造成傷害或不利影響；AI也應該被設計為能夠理解和遵守人類的命令，并在必要時進行自我約束或關閉，以確保人類的安全和控制。
在AI陪伴領域，它的邊界就是：不能對人類造成傷害；需要進行必要的限制，以確保人類安全。
這種邊界首先體現(xiàn)為一些顯而易見的底線，包括AI陪伴應該遵守國家和地區(qū)的法律法規(guī)及道德規(guī)范，確保AI陪伴符合行業(yè)規(guī)范和監(jiān)管要求——像一些擦邊的AI女友就必須被管控；又比如AI陪伴不能非法收集、存儲、使用或泄露用戶的個人信息，確保用戶的隱私權益得到充分保障。
然而，難度最大的是，如何防止人類沉迷AI陪伴，甚至因此失去了現(xiàn)實交往能力？
這至少可從兩方面著手。在設計層面上，AI陪伴應具備合理的時間控制功能，設置每日使用時長上限；鼓勵用戶與現(xiàn)實世界互動，比如設定目標，幫助用戶安排線下活動，或者提供基于現(xiàn)實環(huán)境的信息服務。
在用戶層面上，媒體有必要加強對公眾的教育，讓人們了解AI陪伴的局限性，明確它只能作為現(xiàn)實交往的輔助工具，而非替代品；針對可能出現(xiàn)過度依賴AI陪伴的用戶，社會層面上要提供心理咨詢和干預服務，幫助用戶建立健康的生活方式和社交模式。
AI女友濫用的危機
當前，AI雖然已經(jīng)在諸多領域展現(xiàn)出巨大潛力和廣泛影響力，但是，快速發(fā)展的背后，法律和倫理建設尚未跟上，一些令人憂慮的現(xiàn)象浮出水面。
比如國外的AI女友問題，已經(jīng)引起擔憂。AI女友憑借24小時全天候在線陪聊、多模態(tài)交互（文字、語音、圖像）等特點，迅速吸引了大批用戶。一些不法分子利用AI女友的智能性，將其包裝成性服務提供者，以此來吸引用戶并從中牟利，“聊1分鐘1美元”，“很黃很暴利”。
GPT商店已經(jīng)及時為漏洞打上補丁，該公司禁止GPT“致力于培養(yǎng)浪漫的伴侶關系或進行受監(jiān)管的活動”。然而，各式各樣的擦邊AI女友還是通過網(wǎng)上商城、其他應用商店等形態(tài)被廣泛出售，中文互聯(lián)網(wǎng)也存在一些游離于監(jiān)管之外的AI女友。
在很多國家和地區(qū)，色情內容的生產(chǎn)和傳播受到嚴格的法律限制和監(jiān)管。如果AI女友包含了色情內容或者鼓勵了不法行為，那么已經(jīng)觸犯相關法律法規(guī)。如果AI女友產(chǎn)品沒有做好年齡限制和內容分級，也違背了未成年人保護的相關法律法規(guī)。
在道德層面上，“很黃很暴利”的AI女友嚴重違反社會倫理和公序良俗，將親密關系領域的內容商品化、娛樂化，對個人的心理健康和社會道德觀念產(chǎn)生負面影響。
在性別層面上，AI女友以滿足男性用戶的需求為主導，加劇女性物化現(xiàn)象，是對女性尊嚴和權益的忽視。
而從AI的發(fā)展角度看，“很黃很暴利”的AI女友是在濫用AI技術，偏離AI應用于改善人類生活的初衷，同時也挑戰(zhàn)了社會倫理和法律底線。
這樣的AI產(chǎn)品如果大行其道，會對AI陪伴的整體形象和發(fā)展造成負面影響，消耗公眾對AI陪伴技術的信任；政府和監(jiān)管部門可能會出臺更嚴格的法律法規(guī)來約束AI陪伴的開發(fā)和銷售，從而對整個AI陪伴行業(yè)形成沖擊。
總之，不僅僅是AI陪伴，而是整個AI技術的發(fā)展，都不能脫離法律和倫理的軌道。有必要盡快構建和完善適應AI時代的法律法規(guī)體系，包括AI數(shù)據(jù)保護、AI倫理規(guī)范、AI安全標準，確保AI技術真正做到科技向善，以人為本，更好地服務于社會，而非相反，成為純粹追求刺激和利潤的工具。