“機器執行任務冷酷無情”，以色列情報官員用人工智能識別襲擊目標
參考消息網4月10日報道 英國《衛報》網站近日刊發題爲《“機器執行任務冷酷無情”：以色列用人工智能識別3.7萬個哈馬斯目標》的報道，記者是貝唐·麥克南和哈里·戴維斯。報道稱，在巴以戰爭的最初幾周和幾個月裡，以色列情報部門一直在用強大的人工智能系統識別潛在打擊對象。全文摘編如下：
據參與巴以戰爭的以色列情報部門消息人士說，以色列軍方轟炸加沙時使用了一個此前從未公開的人工智能數據庫，該數據庫根據目標與哈馬斯的明顯聯繫確定了3.7萬個潛在打擊對象。
除了這個被稱爲“薰衣草”的人工智能系統外，消息人士還說，以色列軍方允許大量巴勒斯坦平民被殺，尤其是在衝突的最初幾周和幾個月裡。
他們異常坦誠的證詞使外界難得一窺以色列情報官員的親身經歷，他們在已經歷時半年的戰爭中一直使用機器學習系統幫助確定襲擊目標。
“用系統鎖定目標只用20秒”
以色列在對哈馬斯的戰爭中使用強大的人工智能系統，從而進入一個此前無人踏足的先進戰爭領域，引發一系列法律和道德問題，並改變軍人和機器之間的關係。
一名使用過“薰衣草”系統的情報官員說：“據我所知，沒有能與之匹敵的系統。”他還說，與一名意志消沉的士兵相比，他們更相信“統計系統”，“機器執行任務冷酷無情，完成任務變得更加容易”。
另一名“薰衣草”系統的使用者還對人類在選擇過程中的作用表示懷疑。他說：“我用系統鎖定目標只用20秒，每天幾十次。在這個過程中，我作爲一個人的作用只是按下批准鍵，沒有提供任何附加值。這省了很多時間。”
提供證詞的這6名情報官員都使用過人工智能系統識別哈馬斯或巴勒斯坦伊斯蘭聖戰組織成員。
這6人都說，該系統在戰爭中發揮了核心作用，處理了大量數據，以迅速識別潛在目標。其中4人說，在戰爭初期，該系統列出多達3.7萬名與哈馬斯或巴勒斯坦伊斯蘭聖戰組織有關的巴勒斯坦男子。
“薰衣草”系統是由以色列國防軍精銳8200部隊研發的，該部門相當於美國國家安全局。
“笨炸彈”造成平民死亡
其中幾名消息人士還說，針對某一類目標，以色列國防軍在授權打擊前對可能會被打死的平民人數進行預判並允許平民被殺。
有兩名消息人士說，在戰爭初期，他們獲准在對低級別武裝分子的空襲中可以有15名或20名平民死亡。他們說，打擊此類目標通常使用被稱作“笨炸彈”的非制導武器，一般會摧毀整座房屋，殺死裡邊所有人。
一名情報官員說：“你不想把昂貴的炸彈浪費在不重要的人身上——這類彈藥(指制導武器)對國家來說非常昂貴，而且非常短缺。”另一名官員說，他們面臨的主要問題是能否允許對平民造成“連帶損害”。
他說：“因爲我們通常用非制導炸彈發動襲擊，這意味着把整棟房子裡的人都悶在裡面。但你不會在乎，而是立即瞄準下一個目標。由於系統的存在，目標是打不完的。”
衝突專家們認爲，如果以色列一直在使用非制導武器夷平成千上萬巴勒斯坦人的家園，就可以解釋爲何這場戰爭造成如此令人吃驚的死亡人數。
加沙衛生部門說，在過去6個月裡，已有3.3萬名巴勒斯坦人在衝突中喪生。聯合國數據顯示，僅在戰爭的第一個月，就有1340個家庭遭受多重損失。
嚴重依賴“薰衣草”系統
針對這些情報人員的證詞，以色列國防軍在一份聲明中迴應說，以軍的行動符合國際法規定的傷亡比例，非制導武器是以色列國防軍使用的“標準武器”，飛行員在打擊目標時也儘可能保證“高精度”。
聲明稱，“薰衣草”系統是一個數據庫，用於“交叉參考情報來源，以便提供有關恐怖組織軍事行動的最新信息，那不是一份確認襲擊目標的名單”。
聲明還說：“以色列國防軍沒有使用人工智能系統識別恐怖分子或試圖預測恐怖分子。這個信息系統只是分析人員識別打擊目標的工具。”
在以色列國防軍早期軍事行動中，識別打擊目標是一個非常耗費勞動力的過程。多名消息人士曾向本報描述，在以前的戰爭中，確定某人爲合法打擊目標需要經過一番討論並由法律顧問簽字批准。
這些消息人士說，在去年10月7日之後的幾周和幾個月裡，批准打擊人類目標的速度大大加快。他們說，隨着以色列國防軍對加沙的轟炸加劇，指揮官們要求情報部門持續向他們輸送打擊目標。
一名情報官員說：“我們持續承受壓力，他們的確向我們大喊大叫，‘給我們更多目標’。我們被告知，現在我們已經受夠了哈馬斯，不管付出什麼代價。只要可以，就轟炸。”
爲滿足前方要求，以色列國防軍的情報機構開始嚴重依賴“薰衣草”系統生成的數據庫，判定與哈馬斯或巴勒斯坦伊斯蘭聖戰組織有關的個人。
有關用來訓練“薰衣草”系統算法的數據細節，或者系統如何得出結論的細節，都沒有包含在所公佈的證詞中。不過，這些消息人士說，在戰爭開始後的最初幾周，8200部隊改進了“薰衣草”系統的算法，並對其搜索參數進行了微調。
他們說，經過隨機抽樣和對預測結果反覆覈實後，研發部門認爲“薰衣草”系統的準確率已達90%，促使以色列國防軍批准將其廣泛作爲預測打擊目標的工具。
他們說，“薰衣草”系統還創建了一個有數萬人的數據庫，這些人被標註爲哈馬斯的低級別成員。此外，還有另一個基於人工智能的決策支持系統，該系統的建議目標是建築物和其他設施，不是針對人。
這些情報人員的證詞還包括如何與“薰衣草”系統協調合作，以及如何調整“薰衣草”系統的覆蓋範圍。其中一名消息人士說：“在高峰期，該系統成功將3.7萬人作爲潛在打擊目標。但這個數字一直在變化，因爲這取決於你設定的標準。”（編譯/潘曉燕）