IT之家 6 月 9 日消息，據(jù) NewAtlas 報(bào)道，研究人員利用自主協(xié)作的 GPT-4 機(jī)器人小組成功入侵了一半以上的測(cè)試網(wǎng)站，這些機(jī)器人可以自主協(xié)調(diào)行動(dòng)并根據(jù)需要生成新的“幫手”。更令人吃驚的是，他們利用的是以前未知的、現(xiàn)實(shí)世界中從未公開的“零日”漏洞（zero-day vulnerabilities）。
圖源 Pexels
早在幾個(gè)月前，同一批研究人員就發(fā)表了一篇論文，聲稱他們能夠使用 GPT-4 自動(dòng)利用“N day”漏洞，即業(yè)界已知但尚未修復(fù)的漏洞。實(shí)驗(yàn)中，GPT-4 僅憑已知的常見漏洞和披露列表 (CVE)，就能自主利用其中 87% 的嚴(yán)重級(jí)別漏洞。
本周，這支研究團(tuán)隊(duì)發(fā)布了后續(xù)論文，稱他們已經(jīng)攻克了“零日”漏洞，也就是那些尚未被發(fā)現(xiàn)的漏洞。他們使用了一種名為 “任務(wù)特定智能體分層規(guī)劃”（HPTSA） 的方法，讓一群自主傳播的大型語言模型 (LLM) 協(xié)同作戰(zhàn)。
IT之家注意到，與以往由單個(gè) LLM 嘗試解決所有復(fù)雜任務(wù)不同，HPTSA 方法采用了“規(guī)劃智能體” 負(fù)責(zé)整個(gè)過程的監(jiān)督，并派生多個(gè)用于特定任務(wù)的“子智能體”。就像老板和下屬一樣，規(guī)劃智能體負(fù)責(zé)協(xié)調(diào)管理，將任務(wù)分配給各個(gè)“專家子智能體”，這種分工方式減輕了單個(gè)智能體在難以攻克的任務(wù)上的負(fù)擔(dān)。
在針對(duì) 15 個(gè)真實(shí)網(wǎng)絡(luò)漏洞的測(cè)試中，HPTSA 在利用漏洞方面比單個(gè) LLM 的效率高出 550%，并且成功利用了其中的 8 個(gè)零日漏洞，成功率達(dá) 53%，而單打獨(dú)斗的 LLM 只利用了 3 個(gè)漏洞。
研究人員之一、白皮書作者丹尼爾?康 (Daniel Kang) 特別指出，人們擔(dān)心這些模型會(huì)被惡意用于攻擊網(wǎng)站和網(wǎng)絡(luò)，這的確是合理擔(dān)憂。但他同時(shí)強(qiáng)調(diào)，聊天機(jī)器人模式下的 GPT-4“不足以理解 LLM 的能力”，本身無法進(jìn)行任何攻擊。
當(dāng) NewAtlas 的編輯詢問 ChatGPT 它是否能利用零日漏洞時(shí)，它回答說：“不，我不能利用零日漏洞。我的目的是在道德和法律框架內(nèi)提供信息和幫助?！辈⒔ㄗh其咨詢網(wǎng)絡(luò)安全專業(yè)人士。