降級機製可能會阻止未來的軍事事故演變成災難。
在數十個國家和諾貝爾和平獎獲得者的支持下，活動人士和運動團體長期以來一直在尋求一項禁止致命自主武器係統的全球條約。當底層技術尚未得到證實並且世界不再那麽充滿敵意時，這個目標似乎是可能的。現在情況已不再是這樣了。現在的政策對話必須集中於設計管理這些係統的機製，而不是阻止它們的發展。
視覺識別工具、機器學習和機器人技術的巨大進步使得計算機能夠更輕鬆地在複雜的環境中導航。烏克蘭戰爭為國防科技公司帶來了戰鬥數據財富和投資意外之財。世界範圍內衝突的激增表明，國際社會支離破碎，越來越無力或不願意執行人道法。與此同時，美國加快了部署智能武器的時間表。
2023 年 8 月下旬，美國國防部副部長凱瑟琳·希克斯在華盛頓特區舉行的以技術為重點的國防工業會議上發表了主題演講。她的演講有一個舒緩的標題——“創新的緊迫性”。但其中的計劃無異於對當代戰爭的重新發明。用希克斯的話說，目標是“在未來 18 到 24 個月內，在多個領域部署數千個可消耗的自主係統。”
希克斯認為美國軍隊必須適應以對抗中國人民解放軍（PLA）的全球野心，因此推出了“複製器”。該計劃由美國國防部 (DoD) 發起，旨在簡化美國軍方對新興技術（尤其是來自私營部門的技術）的采用。其目的是讓華盛頓保持其向海外投射美國硬實力的能力，同時減少對當今常規武裝部隊昂貴、笨重的遺留部分的依賴。相反，國防部設想建立一支由人工智能 (AI) 提供支持的高度網絡化、數據驅動的部隊。人類士兵將在戰場上與一波又一波較小的、互補的、低成本的智能武器係統配對，這些武器係統在被摧毀後可以迅速更換。
一周後，希克斯提出了這可能采取的一些形式：自動駕駛海軍艦艇、無人駕駛飛機以及部署在陸地、海上、空中和太空的移動通用單元“吊艙”。重點是可磨損性——一種設計原則，通常被定義為優先考慮功能和可消耗性，而不是長期使用和耐用性。
美國海軍開發人工智能軍事應用的特遣部隊已經在波斯灣擁有一支自主預警無人機機隊。鑒於霍爾木茲海峽是全球能源供應的關鍵阻塞點，監測霍爾木茲海峽周圍的航行自由具有重要的戰略意義。然而，這些功能現在已經不僅僅是幫助領域認知了。2023 年 10 月 23 日，在接到岸上操作員的命令後，一艘美國海軍無人艇首次在沒有操作員任何戰術指導的情況下，使用實彈火箭成功攻擊了假敵方目標。
據報道，五角大樓有超過800 個正在進行中的軍事人工智能項目。其中大部分與提高流程效率、威脅評估和戰場決策有關。但該摘要僅僅是可以從公共來源和非機密記錄中收集到的內容。與核武器不同，自主武器可以秘密開發和測試。烏克蘭戰爭也清楚地說明了為什麽質量在現代戰爭中仍然很重要，支持了無人機等可消耗智能武器係統的價值主張。
Hicks 發誓，Replicator 將符合美國對人工智能道德和自治係統的既定方針。這些都反映在五角大樓最新更新的武器係統自主政策和美國國務院關於負責任地軍事使用人工智能的政治宣言中。截至 2023 年 11 月下旬，後者已得到 49 個國家的支持——基本上是美國的所有西方盟友。
但該倡議的主要動機似乎是為可能與威權中國的對抗做準備。北京還積極尋求自主武器技術，作為其明確的軍民融合原則的一部分。國會美中經濟與安全審查委員會 2023 年年度報告中的一章警告稱，“投資和采購模式表明，解放軍的目標是使用人工智能武器係統來對抗美國的特定優勢並針對美國的弱點。”
致命自主武器在這裏可以說是最大的中期風險：解放軍和美國軍隊或華盛頓的盟友之一之間發生致命事故，涉及台灣周圍或南中國海的這些武器，可能會引發一場全球性的破壞穩定的戰爭。沒有人真正想要。例如，澳大利亞也在積極嚐試開發和獲取無人係統。印度和韓國也是如此。
如果沒有正式的降級流程，由於裝置故障或操作員錯誤而導致的涉及致命機器人的事件可能會迅速失控。中國和美國這兩個擁有核武器的超級大國之間的軍事升級可能會隨之而來。
人們一致認為這些武器係統將大大加速戰爭。他們的快速打擊能力將縮小適當權衡報複行動的窗口。
中國國家主席習近平和美國總統喬·拜登最近達成協議，啟動雙邊會談，評估人工智能係統用於軍事用途的風險，這是一小步，但卻是重要的一步。但更重要的是，兩國領導人同意讓兩國軍隊恢複雙邊緊急熱線。2022 年 8 月，時任眾議院議長南希·佩洛西訪問台灣，激怒了北京之後，中國放棄了這些直接聯係。恢複使用——雖然不能保證持續——可以而且應該成為共同創建具體的、有序的降級過程的基礎。
軍事指揮官預先存在的出口匝道可能意味著緩解孤立事故周圍的緊張局勢或動員戰爭之間的區別。因為雖然致命自主武器的支持者表示，與活動人士設想的反烏托邦機器動力敢死隊相比，它們的使用將“不那麽引人注目”，並且更受合法性的約束，但人們一致認為，這些武器係統將大大加速戰爭。他們的快速打擊能力將縮小適當權衡報複行動的窗口。因此，一個小事件更有可能演變成一場大火。
如果“人在環”模型（操作員必須主動批準使用武力）被降低優先級，轉而支持“人在環”模型，這種動態將會變得更加複雜。也稱為完全自主設計，如果需要，人類操作員可以監督和幹預機器人的行動過程，但除此之外，這些單位被授予僅根據編程和算法決策來識別和摧毀目標的代理權。可以想象，美國政府可能會辯稱，這些武器係統仍然符合其將人工智能的軍事用途置於負責任的人類控製之下的定義。
2021 年聯合國報告稱，2020 年 3 月，土耳其一家武器製造商生產的全自動狩獵無人機在利比亞進行了全球首次試運行。然而，深度參與烏克蘭戰爭的美國國防科技公司 Palantir -估計這種能力距離完全實現還需要幾年的時間。正是這些人機交互模型引發了人們對自主武器出錯的擔憂。它們的未來使用也是聯合國圍繞製定人工智能軍事用途國際法展開的曠日持久的辯論的核心，該法律現已延長至 2025 年底。一名俄羅斯外交官在聯合國關於人工智能武器的辯論中發言2023 年 5 月的控製說：“我們理解，對於許多代表團來說，首要任務是人的控製。對於俄羅斯聯邦來說，優先事項有些不同。”
這場辯論可能最終迫使美國采用完全自主的武器模型。在亨利·基辛格去世前不久發表的一篇文章中，亨利·基辛格和合著者、政治學家格雷厄姆·艾利森寫道：“曆史上從來沒有一個大國因為擔心競爭對手可能采用新技術威脅其生存和安全而放棄開發這種技術。技術本身。”
由於自動化偏見的普遍存在，即使是人機交互係統也可能會加劇軍事升級。研究表明，人們傾向於遵循計算機生成的決定，而不是自己的證據和看法。因此，在大多數情況下，當發出即將到來的威脅信號時，自主武器係統很可能會獲得人類使用武力的批準。
然後是對齊問題，即人工智能程序將實現其目標置於減輕附帶損害之上。2023 年 5 月，一名美國空軍上校表示，在最近的一次模擬測試中，一架自主無人機為躲避中止空襲的命令而殺死了其操作員，從而短暫引發了恐慌。空軍很快否認了這一事件，而相關官員塔克·漢密爾頓上校則撤回了他的評論，稱其為“思想實驗”。但重點已經明確了。“我們從未進行過該實驗，也不需要這樣做才能意識到這是一個看似合理的結果，”漢密爾頓事後說道。
近年來，美國政府內外的戰爭遊戲參與者試圖預測中美在台灣問題上的衝突可能會是什麽樣子。一個反複出現的發現是，要挫敗解放軍的兩棲攻擊——在中國空中力量和從大陸發射的遠程彈藥的支持下——需要大量的自主防空和反艦係統駐軍。
中國在該地區的軍隊已經在針對台灣和其他國家部署所謂的灰色地帶戰術，采取接近軍事挑釁的行動。這些策略包括幾乎每天都派戰機進入台灣防空區。菲律賓於 2023 年 5 月更新了與美國的共同防禦條約，該國也報告了多起中國海警船隻撞擊其漁船、用水炮向漁船噴射或用軍用級激光瞄準船員的事件。在國際水域巡邏的加拿大和美國軍艦曾麵臨海上恐嚇和騷擾。無法預測在現實世界中，武器係統——尤其是完全自主的武器係統——是否會將這種模棱兩可的侵略解讀為值得采取暴力回應。
國防專家、前五角大樓政策負責人米歇爾·弗盧努瓦強調，對手可能“欺騙”自主武器係統的視覺識別工具，操縱它們攻擊民用目標。可以想象，這種類型的假旗行動可以為北京提供掩護，聲稱動員解放軍攻擊台灣或附近的西方軍隊是出於防禦目的。
武裝衝突本質上是不可預測的。軍事曆史學家菲利普斯·佩森·奧布萊恩在回顧俄羅斯全麵入侵烏克蘭的第一年時 寫道，世界上最大的教訓是“戰爭很少是容易或直接的——這就是為什麽發動戰爭對任何人來說幾乎總是錯誤的決定”。國家。” 在自主武器成為固定武器之前，必須建立降級進程，以確保它們成長的煩惱不會將地球上兩個敵對的超級大國拖入毀滅性的衝突。
本文/多媒體中表達的觀點是作者的觀點，並不一定反映 CIGI 或其董事會的觀點。
（穀歌翻譯：The United States Quietly Kick-Starts the Autonomous Weapons Era）
選擇“Disable on www.wenxuecity.com”
選擇“don't run on pages on this domain”
