檢測工具判定「猶太燒焦嬰兒照」為AI生成圖，專家：無跡象顯示為假，AI辨識不應作為唯一依據

文：張瑞邦（Tucker Chang）

以色列與巴勒斯坦遜尼派武裝組織哈瑪斯（Hamas）衝突加劇之際，檢測家無跡象據以色列總理納坦雅胡（Benjamin Netanyahu）辦公室官方帳號於社群網站X（前身為推特），工具公布數張當局認定為哈瑪斯殘殺猶太嬰兒的判定照片，不過其中一張聲稱是猶太嬰兒燒焦嬰兒的屍體圖像，遭外界質疑是燒焦生成由人工智慧（以下簡稱AI）所生成。

據科技調查獨立新聞機構《404 Media》透露，照為作為電台主持人夏皮洛（Ben Shapiro）於2023年10月12日在X轉發該張照片後，圖專便開始有民眾懷疑此圖像是顯示由AI產出，在X上擁有超過50萬粉絲關注的為假唯依美國網紅亨克爾（Jackson Hinkle）更在同日下午發文抨擊夏皮洛「是個騙子」，因為新創科技公司Optic旗下AI圖像檢測工具「AI or Not」已將該圖片判定為AI生成。辨識不應

該「事實」曝光後，檢測家無跡象據認為燒焦嬰兒照是工具AI生成的相關貼文迅速在X以及其他社群平台轉傳，以色列總理辦公室的判定社群平台帳戶也被眾多民眾認定是傳播這類AI生成假訊息的始作俑者，而當《404 Media》新聞團隊再次使用AI or Not檢測時，猶太嬰兒該數位工具仍顯示燒焦嬰兒照為AI生成的燒焦生成圖像。

然而，加州大學柏克萊分校（UC Berkeley）資訊學院教授、數位影像鑑識專家法瑞德（Hany Farid）近日卻表示，沒有任何跡象能表明這張「燒焦嬰兒」照片是由AI所生成的圖像。

為何專家認為該照片並非AI生成？

法瑞德強調，當前的AI圖像產出技術還未能精確生成如真實照片所呈現的場景，其稱：「這些AI繪圖技術目前遇到的其中一個問題是無法處理非常細微的形狀和直線，如果你能清晰的看到一張照片中的桌腳和螺絲釘，那它很有可能就是一張真實的照片，因為AI目前對產出這類高度結構化圖像的能力仍相當有限。」

「以網路上曾廣傳的『海綿寶寶現身911事件』AI生成圖片為例，這張圖像中的雙子星大樓（Twin Towers）呈現明顯的彎曲狀，且駕駛艙的各式按鈕及儀表板皆模糊且雜亂的排列在一起。」法瑞德補充解釋。