“類似核彈嚴重後果” 美國會聽證:“GPT之父”極憂慮AI

文章來源: - 新聞取自各大新聞媒體,新聞內容並不代表本網立場!
(被閱讀 次)



▲“ChatGPT之父”OpenAI執行長阿特曼出席聽證會。(圖/路透)

美國國會正就監管AI尋求共識,OpenAI執行長阿特曼今日首次赴國會聽證,麵對議員提出有關AI影響選舉、就業和過度集中於少數企業的問題,他呼籲成立專責機構加強規範。

OpenAI執行長阿特曼(Sam Altman)今日出席美國參議院司法委員會聽證會,兩黨議員就AI廣泛影響和監管措施向阿特曼提問。

美國共和黨籍聯邦參議員霍利(Josh Hawley)開場指出,生成式AI(Generative AI)發展規模有如網際網絡,為人類曆史上最重要的技術創新之一,隨即提出警告說,“這可能會招致類似原子彈的嚴重後果”。

阿特曼表示,生成式AI的出現好比“印刷機時刻”,能夠改善和創造工作;他強調,監管措施對風險控管至關重要,並說他對AI可能對世界帶來危害深感憂心,希望能與政府合作,防範新技術發生問題。

幾名國會成員和專家對AI係統可能影響選舉,像是散播不實訊息或是操縱選民,表達嚴正關切。

民主黨籍參議員布魯門塔(Richard Blumenthal)播放AI生成的錄音,指出如果生成的內容支持烏克蘭投降或是支持俄羅斯總統普京(Vladimir Putin)領導,“這景象很可怕”。

阿特曼說,他對AI模型普遍操縱、說服或製造虛假互動訊息極為憂慮。

此外,國會成員也對AI技術過度集中於少數大企業之手提出擔憂,民主黨籍參議員布克(Cory Booker)點出OpenAI與微軟(Microsoft)相互合作,並說科技巨擘控製大眾生活,影響力與日俱增,令人感到恐怖。

阿特曼回應,的確隻有少數公司能提供生成式AI模型,但他認為如此狀況下,政府要關注的企業不多“可能有益於監管”,他相信未來會有更多競爭。

其他國會成員和專家也就AI對新聞、智慧財產權的影響提出看法。

OpenAI去年底推出聊天機器人ChatGPT,兩個月活躍用戶破億,外界對加速控管AI的呼聲高漲,近期,美國政府和國會對立法監管AI展開研議,這是阿特曼首度赴國會聽證,被視為兩黨議員就此議題尋求共識的重要一步。

阿特曼於聽證會建議美國政府考慮實施3項計劃:成立新的機構批準AI模型、建立一套安全準則規範AI模型、要求獨立專家學者對AI模型進行審核。

同時,他支持設立一個國際組織為AI製定標準,並舉出管製核武已有前例。

華爾街日報指出,阿特曼15日已和兩黨約60名眾議員私下會晤,另外,華盛頓郵報引述不具名國會議員助理消息表示,今日下午阿特曼與國會負責人工智慧議題成員還有一場簡報會議。

西岸-影 發表評論於
看了這個聽證會,很可笑的水平。
其實下麵的回答問題的CEO隻需要一句話就能讓上麵的議員們閉嘴,省很多事情,
China is doing it too。
就夠了。
一點小看法 發表評論於
不可能了,以後連規範法規都是AI寫得好。最好的辦法是讓AI三權分立互相製衡,也許是唯一的解決辦法。
DumbGoose 發表評論於
然而,眾所周知,現有的各搜索引擎,包括 google,使用的已經是 ranking system(排序係統),也就是說,它們提供的資訊已經是經過排序、取舍的了。而AI當然是更進一步,提供的直接是思考和選擇以後的最終結果了。

除了對於算法的操控,AI的輸出當然還取決於其資訊來源。天朝發展AI實在是讓人覺得荒謬滑稽。隻能接觸強內被嚴格控製的資訊來源的AI,能輸出什麽呢?當然隻能產出更精更高更強的喜腦資訊,而AI應該也會成為比微信更神的喜腦神器。
Observer12 發表評論於
騙子,企圖左右政府
不允許的筆名 發表評論於
Altman是之父,那Ilya Sutskever算什麽?
DumbGoose 發表評論於
個人也始終認為,某些集團、人員對AI的操控,才是AI真正讓人擔心的危害。至於對AI擺脫人類的操控並攻擊人類這樣的擔心,還比較遙遠。

現有的搜索引擎號稱隻是為你搜索資訊然後展示給你,也就是說,號稱還沒有代你思考,隻是提供資訊。而AI向你提供的已經是被分析處理過的資訊,也就是說,已經代你思考並作出結論或者選擇了。而在很多人的心目中,AI代自己作的思考比自己的思考更高明,而AI代自己做出的結論或者選擇比自己作出的更權威更可取。