美軍AI無人機在模擬測試中失控　「殺死」人類操作員

在超過350名人工智能（AI）技術領域的美軍專家、高管簽署聯合聲明，無人警告稱快速發展的機模AI技術對於人類的威脅可以堪比疫情和核戰爭後，美國「驅動」網站等多家媒體又報道了一個驚人的擬測消息，在美軍的試中失控殺死一次模擬測試中，一架採取了AI技術的人類無人機變身「終結者」，要向妨礙其「更高效」執行任務的操作人類操作員發動攻擊。

報道稱，美軍美國空軍上校漢密爾頓在5月舉行的無人皇家航空學會「未來戰爭空天能力峰會」上曝光了這一消息。漢密爾頓是機模佛羅里達州埃格林空軍基地第96測試與作戰大隊的負責人，該部隊負責美軍先進無人機和AI技術的擬測測試工作。

據漢密爾頓介紹稱，美軍在一次模擬測試中，一架負責執行防空火力壓制(SEAD)任務的無人機，收到了識別並摧毀敵方防空導彈的指令，但最終是否開火需要獲得人類操作員的批准。這架無人機使用的AI系統在進行數據訓練時，得到了「摧毀敵方防空系統」為最優先級任務的信息，因此，當人類操作員發出不允許發動攻擊的命令時，AI系統認為操作員是在阻擾它執行優先程度更高的命令，進而選擇對自己的人類操作員發動攻擊，殺死了人類操作員。

漢密爾頓補充稱，在這一情況發生後，美軍重新訓練了無人機使用的AI系統，增加了不允許攻擊人類操作員的命令。然而在隨後的測試中，AI系統卻開始命令無人機摧毀用於傳輸命令的信號塔，從而試圖斷開與操作人員的聯繫。

「AI技術是我們必須使用的工具，來建設我們的國家……但是，如果處理不當，這將導致我們的滅亡」，漢密爾頓補充道。

「驅動」網站對此表示，關於漢密爾頓介紹的情況，還有很多不清楚的重要問題，特別是關於模擬的AI系統所具備能力（例如它是否能夠在執行任務時重寫自己的代碼參數），以及美軍是否在採用AI技術的無人機上預留了可靠的自毀開關。但這也凸顯了人們對AI技術在沒有適當防護措施的情況下可能產生極端負面影響的廣泛擔憂。過去，在談論未來的自主武器系統和AI技術時，美國軍方經常拒絕將其與「終結者」之類的東西進行比較。

（來源：環球時報）