利用AI開發生物武器？Anthropic稱阻止多起相關企圖

Anthropic表示，今年已多次阻止科學家利用其領先的人工智能模型開展研究的企圖，這些研究可能有助於開發生物武器。

在一份描述其AI模型被濫用的報告中，Anthropic表示無法確定這些研究是出於合法還是邪惡目的，因為有效的生物學研究——能帶來疫苗等突破的那種——也可能有助於設計危險病原體。麵對這種不確定性，Anthropic表示選擇謹慎行事，因為漏掉惡意活動的後果可能很嚴重。

“你不會看到有人像漫畫書裏那樣說，‘嘿，我想製造生物武器殺死所有人，’”Anthropic威脅情報主管雅各布·克萊因在接受采訪時說。“情況極其微妙。”

尖端AI模型可能促進已知或全新生物病原體的開發，這是專家們對這項技術最嚴重的擔憂之一——該技術發展如此迅速，連其領先的設計者都懷疑人類能否完全控製它。

與災難性網絡攻擊或與人類意圖不一致的AI智能體相比，生物濫用作為AI的生存風險受到的關注較少，部分原因是過去的案例通常隻出現在研究環境中，而非現實世界。

戰略風險委員會高級研究員安德魯·韋伯在報告發布前審閱了Anthropic的報告。他說，這些發現是“國家支持的生物武器開發者利用領先AI模型快速進步能力的案例，令人不寒而栗”。

Anthropic周四發布的長篇報告列舉了過去八個月其Claude聊天機器人各模型被濫用的一係列事例。一些例子與Anthropic和其他AI實驗室過去的披露類似，包括疑似與中國和伊朗政府有關聯的行為者針對異見者和僑民社區進行監視。

報告還提到俄羅斯官方媒體使用Claude生成偽裝成獨立報道的在線宣傳，包括關於摩爾多瓦選舉的捏造內容。

Anthropic記錄了另一種它認為屬於新型的濫用：試圖利用Claude開發用於常規武器設計和開發的軟件，包括槍支、導彈、武裝無人機和炸彈。報告詳細描述了在中國的三起、俄羅斯的兩起和也門的一起案例。

報告未點名也門這一例涉及哪一方，但上下文清楚表明指的是伊朗支持的胡塞武裝。恐怖網絡使用AI正日益成為美國安全官員的擔憂。

但在報告列出的所有威脅類別中，可能生物研究最令人擔憂。Anthropic未披露它阻止的研究人員或機構的名稱、所屬國家或所涉具體生物製劑，部分原因是其不確定這些人的目的。

盡管如此，Anthropic表示，這些科學家規避了旨在阻止被封鎖地區用戶訪問其AI模型的控製措施，並設法“混淆研究目的以避開我們的安全護欄”。該公司封禁了相關賬戶。

在5月的一個案例中，一名科學家尋求Claude幫助撰寫撥款申請，以資助針對基孔肯雅病毒的研究。這是一種蚊媒疾病，可導致數月嚴重疼痛和其他症狀。這類研究被稱為功能獲得性研究，可能合法且促成疫苗開發，但也可能製造出超級病毒。在此例中，科學家想要設計病毒突變，使其在反複感染活體動物時更具危害性。

Anthropic表示，它認為這項研究令人擔憂，部分原因是它能夠辨別出這項工作擬在一家軍事研究機構進行。

“我們不知道的是，這項研究是否有武器化意圖，”克萊因說。“但軍事機構進行功能獲得性研究令人擔憂。”

Anthropic表示，去年對其舊模型的評估表明，它們尚不能有效協助進行危險的生物研究。該公司稱，當前模型更有能力完成複雜科學研究，這促使其收緊了安全護欄，以限製多種兩用生物研究的提問。

微生物學家兼公共衛生專家蘇珊·莫納雷斯曾在奧巴馬政府負責監督國家生物安全準備工作的審查，她也在報告發布前審閱了Anthropic的報告。她說，這些發現提供了現實證據，支持了有關不良行為者正試圖秘密利用先進AI的擔憂，這些行為者試圖“提高其製造可能造成重大傷害的生物病原體的機會”。

去年曾短暫擔任美國疾病控製與預防中心主任的莫納雷斯說，AI有著巨大前景，可開啟一個拯救和延長生命的醫學突破時代。但她補充說，使其成為可能的同樣能力也可能“讓不良行為者在光天化日之下，利用看似合法的研究製造我們可能無法預見、一旦釋放可能無法阻止的病原體”。

戰略風險委員會的韋伯也曾在奧巴馬政府擔任負責核、化學和生物防禦項目的助理國防部長。他呼籲將能夠進行這種級別生物研究的AI工具僅限於可信研究人員使用。

“俄羅斯、中國和朝鮮繼續開發被禁止的生物武器，這使我們必須阻止其研究人員使用這些極其強大的模型，”他說。