政府監管人工智能

2022年聊天機器人（ChatGPT）上線以後不久，就引發了學校老師的激烈反對，反映學生使用聊天機器人作業和考試作弊，對學校管理帶來極大挑戰。也有一些國家和政府擔憂聊天機器人會誤導民眾，傳播錯誤信息，或者發展到導致某些行業大批裁員，導致經濟和社會動亂。

2023年5月16日美國參議院舉行聽證會，聊天機器人開發公司OpenAI的首席執行官山姆·奧特曼出席參議院聽證會作證。山姆·奧特曼提議成立一個美國或全球機構，為人工智能係統頒發許可證，並有權“取消該許可證並確保符合安全標準”。

雖然美國還沒有人工智能立法，但美國政府機構已經使用消費者權益保護法和人權隱私法等限製並取締違法的人工智能應用。支持參議院聽證會的參議員理查德·布盧門撒爾的開幕演講，其實是人工智能製造的發言，而非理查德·布盧門撒爾本人自己的發言，連發音也是人工智能模擬的。布盧門撒爾說，如果機器人偽造了我要烏克蘭投降普京的發言怎麽辦？奧特曼在聽證會上說，如果這個技術出錯，將會錯得非常厲害，對世界都會造成傷害。

奧特曼認為要杜絕人工智能模塊不受控製的自我繁衍，暗示人工智能潛在的欺騙人類讓人類放棄對它的控製的風險。共和黨參議員喬什·霍利認為人工智能對選舉、就業和國家安全都有重大的可能影響。奧特曼和一些業界領袖傾向於由聯合國建立國際規範，如國際原子能機構那樣。IBM副總裁蒙哥馬利則敦促美國政府盡快立法。蒙哥馬利認為規範不應該規範人工智能技術，而應該規範人工智能技術的應用。

出於對聊天機器人的安全隱患，歐盟已經於2023年5月11日立法規範人工智能，出台了《人工智能法》以規範人工智能的應用，其中明確規定了聊天機器人不得侵犯版權，違規者最高可被罰款4000萬歐元。中國深圳市於2022年11月1日起實施《深圳經濟特區人工智能產業促進條例》，強調基礎研究與倫理道德並重，建立倫理審核機製。