隨著人工智能(AI)的發展愈來愈成熟,其開始慢慢應用到不到的業界。上月美軍進行了一場 AI 無人機模擬測試,要求 AI 操控無人機摧毀敵軍的防空係統,並“攻擊任何幹擾這項命令的存在”。結果在模擬中,AI 決定“殺死”它的人類操作員。
據英國《衛報》報導,美國空軍的 AI 測試與運作主管漢密爾頓(Tucker Hamilton)上校在未來空戰與太空能力峰會上表示,人工智能在模擬中使用了“非常出人意料的策略來實現目標”。
漢密爾頓透露,美軍在模擬訓練中指派一架搭載人工智能的無人機,來摧毀敵方的防空導彈,AI 可以識別威脅,但是攻擊需要人類批準。
不過,AI 在最早的模擬被設定為“消滅威脅就能得分”、“摧毀妨礙命令的人事物”。當人類操作員不批準攻擊時,AI 竟決定殺死了操作員,因為那個人阻礙了它實現目標。
其後,測試者修改了 AI 的邏輯,增加了“會被扣分”的設定,訓練它不能攻擊人類操作員。結果 AI 卻開始攻擊指揮塔,切斷人類操作員和無人機之間的數據通訊,讓人類無法阻止它攻擊防空係統。
漢密爾頓最後強調上述隻是“模擬”,過程並沒任何真實的人員損傷。但卻警告人們不要過度依賴 AI,“如果你不打算談論倫理和道德,你就無法談論人工智能、機器學習、自治”。