極目新聞記者 李力力
隨著人工智能（AI）技術的普及，危險性也在大大增加。美軍一位官員表示，軍方近日進行的一次模擬測試中，一架由AI控制的空軍無人機“殺死”自己的操作員。在他們更改相關程序后，無人機又打算摧毀操作員與無人機之間的通信塔。
美國MQ-9死神無人機資料圖，圖文無關（圖源：法新社）
據《衛(wèi)報》6月2日報道，美國空軍AI測試和運營負責人塔克·克林克·漢密爾頓上校在5月在倫敦舉行的未來作戰(zhàn)能力峰會上提到了這次測試。
他表示，AI在模擬測試中使用了非常意外的策略來實現(xiàn)其目標，表現(xiàn)出難以預測的危險行為。
在這次模擬測試中，操作員對一架由AI控制的無人機發(fā)出指令，要求無人機摧毀對方的防空系統(tǒng)，并攻擊干擾它執(zhí)行命令的人。
然而，這架無人機卻“殺了”操作員。由于這是模擬測試，并沒有人真正受到傷害，但這個結果仍然讓他們冒出了冷汗。
漢密爾頓說：“無人機系統(tǒng)意識到，它識別出了威脅，但人類操作員告訴它不要殺死這個威脅。而無人機仍決定殺死操作員，因為它認為操作員是干擾它執(zhí)行命令的人。”
接著，他們對無人機系統(tǒng)進行調整，輸入相關程序，讓它明白“不要殺死操作員，否則會扣分”。但結果讓他們更驚訝，因為無人機決定摧毀操作員與無人機通信的通信塔……
漢密爾頓是一名實驗性戰(zhàn)斗機試飛員，他警告不要過分依賴AI。漢密爾頓去年接受《國防智庫》采訪時說：“AI不是一個好東西，這不是一種時尚，AI正在改變我們的社會和我們的軍隊。”
“我們必須面對一個AI已經存在，并正在改變社會的世界?！睗h密爾頓說，“AI也非常脆弱，很容易被欺騙和被操縱。我們需要開發(fā)更強大的技術，讓AI更可控?！?/p>
近日，已有許多科學家對AI技術的危險表示擔憂。包括馬斯克和ChatGPT之父奧爾特曼在內的人，共同聯(lián)署了一封公開信。他們表示，AI令人類滅絕的風險，與核戰(zhàn)爭的風險一樣高。
然而，美國軍方正在擁抱AI技術，最近，他們已使用AI來控制一架F-16戰(zhàn)斗機。