南伊的博客

欣賞生命之河的每一滴浪花
正文

人工智能權利法

(2022-10-05 05:54:06) 下一個

【教育科技】

人工智能權利法

 

南伊,2022年10月5日,周三

 

人工智能(AI)是第四次工業革命的基礎,它將推動下一波科技飛躍發展,影響人類生活的各個方麵。以動畫電影行業為例,以前動畫片的製作需要一整套繁瑣的流程:首先導演要根據文字劇本繪製出連環畫草圖,設計角色、場景、道具,繪畫專家用印有矩形方格的分鏡紙描畫出每個場景的背景和人物,在一旁用文字注明這個場景中人物的動作和台詞。整個動畫的製作需要有多個部門分工協作,包括建模組,動畫組,場景組,特效組,燈光合成及配樂組,配音剪輯及宣傳發行組等等。迪斯尼公司的米老鼠和唐老鴨係列動畫電影就是用這種傳統方法製作出來的。

現在利用人工智能技術,動畫片中的人物形象和場景圖像都能根據文本自動生成。上周,Meta 推出了 Make-A-Video,這是一種可以根據文本提示自動生成視頻的人工智能技術。雖然現在隻能生成幾分鍾長的視頻,但是經過改進,這樣的技術可以徹底改變電影製作和動畫片的生產。這種技術在廣告宣傳和其它商業領域也有廣泛的應用前景。 

最近,卡內基梅隆大學的研究人員使用自動化係統和機器學習軟件來生成電解質,使鋰離子電池能夠更快地充電,解決了電動汽車廣泛采用的主要障礙。用人工智能幫助開發更好的電池,將會更快地終止燃油汽車的使用,為保護地球環境做出重大貢獻。哈佛大學的研究人員使用智能手機和可穿戴生物傳感器收集的數據來創建一種算法,該算法可以預測用戶是否有自殺風險;如果發現重大風險,這個算法還能幫助臨床醫生進行幹預。

兩個月前,古狗(Google)解雇了一名 AI 測試工程師,原因是這個工程師宣稱 AI 係統已經具有感情和自我意識。雖然現在的 AI 產品不具有人格意識,這並不能排除將來的智能產品具備有這種功能。AI 的發展是無止境的,具有自我意識和人格感情的智能機器人一定會出現,這隻是個時間長短的問題,我堅信這一點。

當然,科技發展和人類生活的關係很複雜。就拿民主和自由來說,有時科技發展可以促進民主自由,比如最近伊朗的抗議活動,美國提供給伊朗人先進科技工具,用來反對伊朗當局的斷網鎮壓。但是,科技也可以被獨裁政權用來壓製人民的聲音,警察可以使用 AI 技術高效收集信息,鉗製人們的言論和行動的自由。即使在民主國家,已經發現有些輔助招聘和貸款決策的軟件算法存在偏見和歧視,尤其對少數族裔不公平。社交媒體收集用戶的各種數據,不經用戶同意就跟蹤他們的活動,嚴重侵犯了個人隱私。

歐盟正在製定新規則,建立人工智能產品的監督問責製,以便更容易起訴人工智能公司對用戶所造成的損害。歐盟已經限製執法機構在公共場所使用人臉識別係統,因為它可能導致大規模監控。美國總統拜登昨天公布了一項新的人工智能權利法案,旨在加強隱私保護,對傷害用戶權益的智能產品製造商追究責任。白宮科技政策辦公室(OSTP)製定了五項保護原則:

  1. 安全有效的係統:人工智能係統必須在部署之前進行測試,證明它們是安全和有效的。

  2. 避免歧視算法:任何人工智能係統的軟件算法不應有基於種族、膚色、民族、性別(包括雙性人和性取向)、宗教、年齡的歧視性決策行為。

  3. 數據隱私:對用戶的數據收集必須控製在合理範圍,並征得用戶的同意。對用戶的提示應該簡明扼要,通俗易懂。用戶應該有權得到商家對用戶數據的使用報告。

  4. 通知及說明:人工智能係統應該提供公開報告,用通俗的語言解釋該係統的關鍵功能和結果影響。

  5. 具備退出選項:用戶可以選擇退出自動化智能係統,選擇使用人類替代係統。

這是白宮 OSTP 提出的藍圖和願景。算法不應有歧視性,係統應按設計以公平的方式使用;公民應該有權決定自己的用戶信息應該如何被使用;應該有內置的保護措施來防止濫用個人信息。這個權利法案是一個良好的起點,強調了數據最小化的重要性,現在的關鍵是要確保這些原則能夠具體落實和嚴格執行。

現在的問題是,人類目前並沒有完全理解人工智能係統的工作原理。用於訓練人工智能係統的數據集非常龐大,無法確定它們是否含有錯誤。今天的神經網絡極其複雜,即使它們的創造者也可能不完全理解它們是如何得出結論的。所以,白宮提出的這個藍圖和願景在具體執行時還會遇到許多挑戰。

另外,這樣的人工智能權利法案會扼殺創新嗎?對 AI 公司來說,名目繁多的製約法案的確會限製 AI 的研發進度,他們既害怕被用戶告上法庭,也害怕政府的罰款。各國政府對公司的罰款已經高達全球年總收入的 6%。比如,亞馬遜在 2021 年因違反數據保護法被罰款 7.46 億歐元(7.75 億美元),穀歌在 2018 年因違反歐盟反壟斷法被罰款 43 億歐元(45 億美元)。

鼓勵 AI 創新和防控 AI 危害的法律應該達到合理的平衡。

 

參考文獻

【1】The White House, Office of Science and Technology Policy: Blueprint for an AI bill of Rights, https://www.whitehouse.gov/ostp/ai-bill-of-rights/

 

南伊,2022年10月5日,周三。

 
[ 打印 ]
閱讀 ()評論 (0)
評論
目前還沒有任何評論
登錄後才可評論.