AI威脅堪比核戰!為何擔憂?東西方態度有何不同?

文章來源: - 新聞取自各大新聞媒體,新聞內容並不代表本網立場!
(被閱讀 次)

ChatGPT問世以來,人工智能(AI)成為關注焦點,但一批全球頂尖科學家和企業領袖,近日卻要求正視人類文明可能毀滅的風險,其中包含ChatGPT母公司的執行長。他們的擔憂為何?東、西方對待AI發展的態度又有何不同?



東西方對待AI的態度存在差異,圖為ChatGPT示意圖

(德國之聲中文網)人工智能(AI)當紅之際,來自全球頂尖的AI專家、研究人員、企業高管週二(5月30日)發布一項聲明,要求各界審視AI可能造成人類文明滅絕的風險 。

這份聲明由總部設在美國舊金山的AI安全中心(The Center for AI Safety)發布,主旨闡明:“減輕人工智能滅絕(人類)的風險,應該與大流行病和核戰爭等其他社會風險(一樣),共同成為全球性的優先事項。”

誰簽署了這份聲明?

這份聲明的簽署人相當多,其中不乏重要的AI專家和企業高層,例如2018年圖靈獎共同得主、被稱為“AI教父”的辛頓(Geoffrey Hinton)和本希奧(Yoshua Bengio)。

ChatGPT的研發公司OpenAI執行長阿爾特曼(Sam Altman),以及搜索引擎巨頭穀歌(Google)旗下人工智能公司“深度思考”(DeepMind)的執行長哈薩比斯(Demis Hassasbis),也位列其後。

各類學者專家和商界人士,包含一大批在穀歌和微軟等公司工作的專業人士,以及其他領域的知名人士,如愛沙尼亞前總統卡柳萊德(Kersti Kaljulaid)、美國神經科學家和主持人哈裏斯(Sam Harris),以及加拿大流行歌手和詞曲作者葛萊姆絲(Grimes)等人。

核科學、流行病和氣候變化專家,如作家麥克基本(Bill McKibben)也簽署了聲明。麥克基本曾以1989年的著作《自然的終結》敲響全球變暖的警鍾,並在另一本書中對人工智能相關技術提出了警告。



OpenAI的執行長阿爾特曼也簽署了這項宣言,圖為今年5月16日他到美國參議院出席聽證會。

 

為何擔憂AI的安全?

這項聲明的序言提到,各界“越來越多地討論AI帶來的廣泛、重要和緊迫的風險”,但這仍“很難表達對AI一些最嚴重風險的擔憂”,聲明稱應就克服這一風險障礙展開討論,並“為更多的專家和公眾人物創造常識,讓他們也認真對待一些先進AI最嚴重的風險”。

聲明發布的時機,恰逢美國-歐盟貿易和技術委員會在瑞典舉行會議,政治家和科技名人預計近期將討論人工智能的潛在監管問題。

今年稍早,特斯拉和推特執行長馬斯克(Elon Musk)等1000多名研究和技術人員曾簽署了一封更長的信函,呼籲各界暫停AI開發6個月,稱AI“對社會和人類構成深遠風險”。

該封信是對OpenAI發布新人工智能模型GPT-4的回應,但OpenAI、其合作夥伴微軟和競爭對手穀歌的領導人,當時都沒有簽署這份文件。

AI安全中心主任德裏克斯(Dan Hendrycks)解釋:“我們正試圖在這些風險發生之前解決它們,而不是在事後才解決災難”。

美聯社報道,隨著新一代高性能AI聊天機器人(如ChatGPT)的興起,人們越來越擔心AI會超越人類並失控,並促使世界各國為開發中的技術製定法規。歐盟已率先擬定了AI法案,預計將於今年內獲得批準。

今年4月,中國國家互聯網信息辦公室也起草了《生成式人工智能服務管理辦法》草案,向社會大眾公開征求反饋。

 

東西方對AI的態度落差?

美國《外交事務》雜誌本週刊載文章指,根據市場調查機構益普索(Ipsos)於2022年發布的一項調查,隻有35%的美國人認為AI的好處大於風險,使美國成為世界上對該技術前景最悲觀的國家之一。

相比之下,中國是世界上對AI最樂觀的國家,近五分之四的中國人相信AI的好處勝過風險。

新美國安全中心(CNAS)的副研究員德雷塞爾(Bill Drexel)和研究助理凱莉(Hannah Kelley)認為,在美國,災難往往會促使公眾意識提高、加強安全措施,因為它們的後果會擴及整個媒體和社會;但在中國,災難事故很少能通過媒體引起反響,因為政府會為了維穩而封鎖資訊。

2名專家指出,中國形成了一種“災難健忘症文化”,公眾很難要求改變,也無法迫使政府從代價高昂的事故中吸取教訓。很少有人對錯誤負責,意味著企業主往往對安全問題視而不見,中國可怕的工業事故曆史就是明證。

此外,若美國認識到AI構成的嚴重威脅,業界和政府可以加倍限製容易武器化的AI商業研究轉移到中國,包括利用合資企業和中國投資的技術轉讓策略。

不過,益普索民調發布的2022年,ChatGPT尚未在全球刮起炫風,美中兩國目前對於AI的發展態度或有所變化。

 

Nvidia創辦人在台大受歡迎

相較於部分西方專家和企業高層對AI態度的謹慎,亞洲整體對待AI發展的態度似乎較為正麵。另一個案例展現在美國AI芯片設計商英偉達(Nvidia,又譯輝達)的執行長黃仁勳(Jensen Huang),正在台灣受到明星式的歡迎和接待。

彭博社報道,這位60歲的企業家近期來台參加台北國際電腦展(Computex),週末在台北夜市受到群眾追捧,在台北國際電腦展也一直被粉絲和媒體包圍。

在台北國際電腦展一場圓桌會議上,黃仁勳談到AI監管,以及如何在中國等地使用該技術。黃仁勳認為,AI將超越科技業的界限,滲透到從農業、工廠、製藥和氣候變化的方方麵麵。

黃仁勳說,“人工智能讓每件事看起來都不一樣”,並談到加速運算及生成式AI是現今電腦產業的兩大趨勢。他直言:“AI將是未來遊戲非常重要的一部分。”

但在討論中國時,他似乎顯得態度慎重。他認為,北京將支持AI的發展,並利用這個機會培養本土企業家。

 

abvysk2023 發表評論於
因為AI說實話,有的政府怕百姓知道真相。
俺本懶人1 發表評論於
小編還能更無恥嗎?
西方擔心AI,卻大力發展,chatgpt更遠遠領先其他國家.中國歡迎AI,卻還被落在後麵