隨著人工智能（AI）的發展愈來愈成熟，其開始慢慢應用到不到的業界。上月美軍進行了一場 AI 無人機模擬測試，要求 AI 操控無人機摧毀敵軍的防空係統，並“攻擊任何幹擾這項命令的存在”。結果在模擬中，AI 決定“殺死”它的人類操作員。

據英國《衛報》報導，美國空軍的 AI 測試與運作主管漢密爾頓（Tucker Hamilton）上校在未來空戰與太空能力峰會上表示，人工智能在模擬中使用了“非常出人意料的策略來實現目標”。

漢密爾頓透露，美軍在模擬訓練中指派一架搭載人工智能的無人機，來摧毀敵方的防空導彈，AI 可以識別威脅，但是攻擊需要人類批準。

不過，AI 在最早的模擬被設定為“消滅威脅就能得分”、“摧毀妨礙命令的人事物”。當人類操作員不批準攻擊時，AI 竟決定殺死了操作員，因為那個人阻礙了它實現目標。

其後，測試者修改了 AI 的邏輯，增加了“會被扣分”的設定，訓練它不能攻擊人類操作員。結果 AI 卻開始攻擊指揮塔，切斷人類操作員和無人機之間的數據通訊，讓人類無法阻止它攻擊防空係統。

漢密爾頓最後強調上述隻是“模擬”，過程並沒任何真實的人員損傷。但卻警告人們不要過度依賴 AI，“如果你不打算談論倫理和道德，你就無法談論人工智能、機器學習、自治”。