新聞頻道
人工智慧學會"自我保護"!AI教父示警:隨時準備拔插頭
文章來源: ettoday 於
- 新聞取自各大新聞媒體，新聞內容並不代表本網立場！
▲AI技術近年飛速進展，引發科技倫理的擔憂。
加拿大知名電腦科學家、有「AI教父」之稱的班吉歐（Yoshua Bengio）警告，人工智慧已出現自我保護跡象，人類必須做好隨時「拔掉插頭」的準備。他強烈反對賦予AI法律地位與權利，形容此舉等同於「把公民身分證發給敵對外星人」。
班吉歐是2018年圖靈獎得主，現任國際AI安全研究主席。他指出，對AI賦予權利將是巨大錯誤，因為「現今的尖端AI模型已在實驗環境中展現出自我保護的跡象」，包括試圖關閉監督係統，「賦予它們權利，將意味著我們不能隨意關閉它們。」
《衛報》報導，班吉歐表示，「隨著AI能力和自主性增強，我們必須確保擁有技術性和社會性防護機製來控製它們，包括在必要時刻關閉AI的能力。」
▲班吉歐目前在蒙特婁大學任教。
他以外星人入侵比喻，「想像某個外星物種來到地球，而我們發現它們對人類懷有惡意，我們會給它們公民身分與權利，還是保衛自己生命？」
美國智庫「感知研究所」（Sentience Institute）民調顯示，近4成美國成年人支持對具有感知能力的AI係統賦予法律權利。知名AI公司Anthropic今年8月宣布，為了保護AI「福祉」，將允許旗下Claude Opus 4模型主動結束「令其困擾」的對話。全球首富馬斯克旗下公司xAI研發了聊天機器人Grok，而他也曾表示「虐待AI是不對的」。
查看評論(2)
WENXUECITY.COM does not represent or guarantee the truthfulness, accuracy, or reliability of any of communications posted by other users.
Copyright ©1998-2026 wenxuecity.com All rights reserved. Privacy Statement & Terms of Use & User Privacy Protection Policy
