李飛飛：我不知道AGI是什麽，我們應該尊重人類的能動性
澎湃新聞 01-20 12:18
我們如何利用人工智能（AI）放大人類潛能，創造更美好的未來？AI 為何要“以人為本”？通用人工智能（AGI）究竟意味著什麽？未來 15 年可能會發生什麽？ 近日
我們如何利用人工智能（AI）放大人類潛能，創造更美好的未來？AI 為何要“以人為本”？通用人工智能（AGI）究竟意味著什麽？未來 15 年可能會發生什麽？
近日，“AI 教母”、斯坦福大學首位紅杉講席教授李飛飛做客由美國知名風險投資家、LinkedIn 聯合創始人 Reid Hoffman 主持的播客頻道 Possible，逐一回答了上述問題，並分享了她從 2009 年創建 ImageNet（AI 行業第一個大型圖像識別數據庫），到目前擔任空間智能初創公司 World Labs 聯合創始人兼首席執行官的曆程。
在采訪中，李飛飛還解釋了為什麽空間智能對 AI 的發展如此重要，以及它如何能在醫學、氣候和教育等領域帶來突破，進而導致現實與數字之間的界限將開始變得模糊。
對於 AI 將會為人類帶來怎樣的未來這一議題，李飛飛從 AI 治理、政策製定與 AI 應用層麵給出了具有建設性的觀點。從宏觀層麵來說，她認為 AI 不隻屬於部分技術精英，而應該屬於所有人，這也是她創立非營利性組織 AI4ALL 的出發點，即通過教育培養下一代 AI 技術專家、思想家和領軍人物，並提高 AI 領域多樣性和包容性。
在李飛飛看來，AI 的發展應該以提升人的能動性（agency）為目標，通過人與 AI 的合作賦能人類，為所有人打造一個積極的、以人為本的 AI 未來：
“人類能夠創造近似‘上帝一樣’的技術，從而改進我們所處的‘中世紀’式製度，並超越、或引導我們那‘舊石器時代’的情感，讓它們變成創造力、生產力和善意。”
學術頭條在不改變原文大意的情況下，對整體內容做了精編，如下：
Reid：很高興見到你。歡迎來到 Possible。
李飛飛：我也是。很高興見到你和 Aria。
Reid：是什麽讓你有了開發 ImageNet 的想法？比如說，“啊，我們需要這麽做。”
李飛飛：我很難給出一個非常明確的時刻，但差不多是在 2006 年，當時我正在深入研究如何使用機器學習算法來理解物體和圖像。無論我把目光投向哪裏，我都無法回避這樣一個事實，即機器學習模型存在一個數學概念，叫做“過擬合”。這是指模型的複雜性與模型所使用的數據並不完全匹配，尤其是當數據--不僅僅是數據量，而是數據的複雜性和數據量--並不能真正有效地驅動模型時。當然，並不是所有模型都是一樣的。我們現在知道，神經網絡模型具有更高的容量和表征能力。拋開這些術語不談，數據與模型之間肯定存在相互作用，而我（當時）看到，在每個地方，人們都不關注數據。
我們（那時）隻關注模型。就在那一刻，我突然意識到：“我認為我們不應該隻關注模型，或者說，我們關注的方式是錯誤的。我們需要關注數據，用數據來驅動模型”。當然，就在那時，我轉到了普林斯頓大學任教。我接觸到了一項名為 WordNet 的工作。WordNet 與計算機視覺毫無關係 但它是組織世界上各種概念的絕妙方法。而且，我也喜歡這個名字。然後順理成章，ImageNet 也問世了。我非常強烈地相信大數據和視覺世界多元化表征的需求。
Reid：我是在你 AI 職業生涯的中點，從令人驚歎的 ImageNet 開始聊的，現在我們來談談 World Labs，從 ImageNet 轉到 World Labs 上。World Labs 的理念是什麽？你們正在構建的東西有什麽是我們的未來方向、以及理解 World Labs 本身和 AI 趨勢的關鍵部分？
李飛飛：是的，Reid，我們談論過這個，對吧？我們最喜歡的話題——技術發展的方向。老實說，在我的職業生涯中，尤其是在 ImageNet 之後，我一直癡迷地思考一件事，那就是什麽是智能，以及我們如何在機器上實現智能。在我看來，如果從人類智能的角度來看，這其實可以歸結為兩件簡單的事情。
一是我們會說話。我們使用語言交流作為工具來交談，組織起我們的知識並傳遞信息。另一個是——也是對我們意義深遠的那一半智能是——我們會做事。比如，我們做蛋餅，我們徒步，我們和朋友玩樂，享受彼此的存在，這遠遠超出了我們所說的任何一句話，而這隻需要我們能舒適地坐在對方麵前。
還有，拿著一個啤酒罐，所有這些事情，這是智能的一部分，而這部分智能的真正基礎，在於我們能夠理解我們所生活的三維世界，感知它，並將它轉化為一整套理解、推理和預測，這樣我們就能在這個世界中做事。在我看來，這種能力被稱為“空間智能”，是人類等智慧動物所具備的最基本的天賦能力，也就是處理三維空間的能力。
所以，ImageNet 的出現是因為我一直在探索如何給二維圖像中的像素貼標簽，而對人類來說，二維圖像是三維世界的投影。因此你可以看到，這就是一個嬰兒朝著理解我們生活的更完整世界--視覺世界邁出的第一步。而這個嬰兒邁出的一小步至關重要，因為無論是對於人類、動物還是機器來說，理解這些物體和圖像，給它們貼上標簽都是關鍵的第一步。
但現在，天哪，14 年、15 年過去了，我認為我們已經準備好進行一場更大的探索，幾乎是一場全壘打探索，以解開智能最重要的另一半——也就是空間智能問題。空間智能之所以有趣，是因為它實際上包含兩個方麵：一個是物理三維世界，另一個是數字三維世界。我們從未真正能生活在這兩者之間。但現在，空間智能可以成為一種統一的技術，讓三維接地世界和數字三維世界都變得有意義。
Aria：所以，當我思考空間智能的前景時，你知道，如果你回到 1880 年——馬車、未鋪設的道路——你會覺得，這是一個完全不同的世界。但如果你回到 1980 年--好吧，就像人們開不同的車，但他們仍然住在同樣的建築裏，仍然開著車。某種程度上來說，這個現實世界的機製是基本一樣的。你認為在未來幾十年裏，你說的另一半智能會改變這一切嗎？我們是否會看到現實世界的巨大轉變，就像過去幾年我們在數字世界看到的那樣？
李飛飛：我認為會的，我認為現實與數字之間的界限將開始變得模糊。舉個例子，我在高速公路上開車，如果車胎爆了，盡管我是個技術專家，我有種預感，這會給我帶來很大的麻煩。但如果我能戴著一副眼鏡，或者把我的手機對準汽車，對於爆胎這個問題，我隻需要與裝在裏麵的應用合作，引導我進行換胎，無論是通過視覺引導，還是通過對話或混合方式。
我認為這是一個非常普通的日常生活例子，它真正打破了物理三維世界和數字三維世界的界限。無論是更換爆胎還是做心髒手術，這樣的技術都能為人們賦能，這對我來說是一個非常令人興奮的想象。
Aria：所以你說，用大語言模型（LLM）來教自己一些東西，這個我一直認為是非常鼓舞人心的。就像我的孩子們總是說，“哦，我不學了，我數學很好，不需要再學了。”而我可以說，“不，不，李飛飛都在用 LLM 學習。我覺得你還需要繼續學”。但是，當你談論大世界模型（LWM）與 LLM 時，你是怎麽看待這兩者的？你如何向人們解釋他們的差異，以及你認為未來會如何發展？
李飛飛：從根本上說，就像我說過的，一個是關於說的，另一種則是看和做。所以，從根本上說，它們是不同的模態。LLM 的基本單位是詞庫——無論是字母還是單詞。而在我們所說的“世界模型”中，基本單位則是像素或體素。因此，它們是截然不同的語言。我幾乎覺得語言是人類的語言，三維是自然的語言。我們真的希望AI算法能夠讓人們與像素世界進行互動，無論是虛擬世界，還是物理世界。
Reid：你的回答讓我想起你引用過的一句話，社會生物學家 Edward O. Wilson 曾說 “我們有舊石器時代的情感，中世紀的製度，上帝一般的技術，這是極度危險的。”所以，在這樣一個擁有自然語言思維、又需要教育大眾的情況下，你覺得要怎樣“反轉”這個說法？或者說，在 AI 時代，人類有哪些機遇？
李飛飛：我仍然相信 Wilson 的那句話，也正因為如此，你和我以及我們的朋友們才一起創辦了以人為本人工智能研究院（HAI）。如果我要反轉那句話，我可能會這麽講：人類能夠創造近似“上帝一樣”的技術，從而改進我們所處的‘中世紀’式製度，並超越、或引導我們那‘舊石器時代’的情感，讓它們變成創造力、生產力和善意。
Reid：那你認為要幫助人類實現這些理想，我們構建這種技術的關鍵是什麽？重點是放在“同情心”上嗎？還是說這是一個以人為本和人與技術交互共生的問題？如果想讓科技和 AI 幫助我們實現更好的自我，你覺得下一步最該做的是什麽？
李飛飛：我知道你為什麽主修哲學跨學科專業（Sym-Sys）了，你的思考體現了哲學和技術的結合。我同意你的觀點，就像前麵引用的，我們幾乎把“舊石器時代”當作一個負麵的詞，但它其實並不是一個負麵的詞，它是一個非常中性的詞。人類的情感或者說人類的自我形象認知深深植根於進化，植根於我們的 DNA，這是不會改變的。我們的世界也正因為如此而既美麗又混亂。
因此，在思考技術以及未來人類與技術的關係時，我認為我們需要尊重這一點。我們需要尊重人類最根本的、根源於“舊石器時代”的自我。科技發展中，有一些事情真的需要尊重，我們越尊重它，越能成為更好的我們。一是尊重人的能動性。我認為其中一個關於 AI 的公共溝通問題就是我們經常在句子中將 AI 作為主語，而人類的能動性被拿掉了，比如“AI 能夠治愈癌症”這樣的句子。
我有時甚至也會不小心這樣說。事實應該是人類將利用 AI 治愈癌症，而不是 AI 治愈癌症。還有說“AI 將解決核聚變問題”，事實是人類科學家和工程師將把 AI 作為解決核聚變的工具。更危險的說法是“AI 會奪走你的工作”，我認為我們真的需要認識到，這項技術有更多的概率來創造機會和工作來增強人類的能動性，這是我在意的非常重要的第一個基本原則。
第二個基本原則是尊重人類。每個人都希望身體健康、有生產力、在社會受人尊重。無論我們如何發展或使用 AI，我們都不能忽視這一點。忽視這一點是危險的，會適得其反。我認為，僅這兩點就對指導我們發展這項技術至關重要。
Reid：我很喜歡你對人類能動性的深入思考。你能再多談談能動性以及讓 AI 以人為本的重要性嗎？以人為本的 AI 意味著什麽？技術專家和技術公司應該如何思考這個問題？
李飛飛：對這個問題的討論根植於這樣一個堅定的信念：任何技術、任何創新都應是讓人類向善的。這也是人類文明的弧光——每當我們創造出一種工具，我們都希望用這種工具帶來更好的世界。當然，這也是一把雙刃劍，我們可能會誤用工具，會有不良的行動者使用工具。因此，即使看到技術和工具的陰暗麵，也會促使我們加倍努力，讓它們變得更好。至於如何讓 AI 以人為本， HAI 的基本原則，以及我們一起在斯坦福創辦它的根本原因就是，我們把 AI 視為一種強大的工具——一種文明性工具。我們最好盡早建立起一個將人類和人類利益置於核心的框架，我認為以人為本的 AI 最關鍵的一點，以及它應該如何指導每一家公司、每一位開發者，就是為人類賦能。
Aria：你已經在 AI 領域工作了很長時間，涉及過許多不同的方麵。而一些人現在才剛剛了解 AI。你如何看待現在的 AI 創新——無論是從我們所處的位置，還是從開發者所麵臨的問題來看。你覺得要想解決這些問題、再上一個台階，我們當下該做些什麽？
李飛飛：我們正處於一個現象級的時刻。這是一個革命性的拐點，因為 AI 現在可以進入個人和企業的日常使用中。如今，我們這些早期的 AI 探索者在職業生涯初期的許多夢想都已經實現或即將實現。例如，公眾常常說起“圖靈測試”，而如今這幾乎已經被解決的問題。雖然圖靈測試本身不會是衡量智能的終極標準，但它曾經被視為一個極難攻克的標準，如今也已經被突破了。汽車能自動駕駛了，對吧？雖然還沒有完全解決，但已經比 2006 年解決得多了。
所以，隨著這些模型真正用於生產環境，被普通人和企業使用，我認為這是 AI 革命的一個非凡階段。不過我也清楚地知道，我們身處矽穀泡沫中，我仍然認為放眼全球，很多人還沒有跟上 AI 的發展速度。但我們確實看到了未來，看到了未來的走向。
Aria：我感覺很多聽眾會對你說的產生共鳴，AI 可能極大地提升人類能力，也可能帶來巨大的積極影響，但我們確實需要擔心那些負麵後果，並希望能在正確的軌道上引導 AI。那從開發的角度看，你覺得我們需要怎麽做才能確保 AI 走向積極的方向？如果你認為政府或者跨行業的合作是必要的，也可以談談這方麵的想法。
李飛飛：說實話我認為有很多我們能做的，而且我們就應該盡快去做，早就該做了，但現在開始也不算晚，隻要我真正投入去做。第一點，應該基於“科學”而不是“科幻”。過去有很多炒作的言論，比如 AI 會導致人類滅絕或者 AI 會帶來世界和平——兩種說法都更像科幻而非科學。所以，當考慮如何製定 AI 政策、對 AI 進行治理時，我們以數據、科學事實、科學方法為基礎，這是非常重要的。
第二點，就像許多其他技術和工具一樣，我們要在對人類產生影響的地方為 AI 的應用加上“護欄”，即把治理的精力集中在正確的地方，而不是阻止上遊的發展。想想早期的汽車，它並不安全，沒有安全帶、車門，也沒有限速。後來我們也確實付出了一些代價，比如人員傷亡。但我們並沒有對福特或者通用汽車說“關停工廠”，而是建立了包括安全帶、限速等的監管框架。今天的 AI 也是類似的，它是一項具有深遠影響的技術，但也會伴隨著風險。因此，我們應該關注的是，當 AI 應用於醫療領域時，我們該如何更新食品藥品監督管理局（FDA）的監管條例？當 AI 應用於金融領域時，我們該如何設置監管護欄？所以，應用層麵才是應該集中精力治理的地方。
最後一點，我們需要明白，要讓 AI 有一個積極的未來，就要有一個積極的生態係統。這個生態係統需要私營部門的參與，無論是大公司還是初創企業都非常重要。同樣，也需要公共部門，因為公共部門生產公共產品。
在我看來，公共產品有兩種形式。一是由好奇心驅動的創新和新知識。比如用 AI 做聚變研究、用 AI 治療疾病、用 AI 賦能教師等等。很多這些想法都來自公共部門，就像 ImageNet 當初就來自於公共部門。二是人，我們需要讓教育更多年輕人、更多公眾了解這項技術，而公共部門在從 K12（基礎教育）到高等教育的領域承擔著主要的社會教育責任。
這些就是我在 AI 治理與政策製定層麵非常關心的內容。
Reid：你剛才的談話其實已經有所涉及，不過我覺得可以再重點談一下 AI4All ，因為你一直在做的另一件事就是確保 AI 不僅僅關乎斯坦福大學的教授、加州理工學院的博士和物理學家等技術精英，而是關乎所有人的。請你講講 AI4All 這個項目，以及它的使命和貢獻。
李飛飛：AI4ALL 是一個非營利性組織，由我和我以前的學生、同事共同創立。它的任務其實是通過大學的暑期項目和實習，為來自不同背景的 K-12 學生提供接觸 AI 的機會。我們的理念是努力實現公共利益。在 AI 的教育層麵，我們知道 AI 將改變世界，但誰來改變 AI 呢？我們希望有更多元背景的人來使用這項技術，為各種偉大的事業開發這項技術，並從中受到啟發。
因此，我們的項目一直麵向女性，以及來自農村、城市貧困地區、曆史上代表性不足的社區和背景的學生，讓他們參加這些暑期項目。看到這些年輕人使用 AI 或研究 AI 、改進救護車調度算法，使用 AI 評估鄉村社區的水質，真的令人倍感鼓舞。這仍然是一項小規模的工作，但我希望它能不斷發展壯大，因為讓更多不同的人參與到 AI 領域是一個非常重要的目標。
Reid：你也在醫療健康領域做了很多工作。AI 在醫療健康領域能做些什麽？能談談你在醫療領域的工作，以及你對 AI 在這方麵未來發展的期望嗎？
李飛飛：正如我在我的書中寫到，我對 AI 在醫療健康領域的應用充滿熱情，原因有很多。醫療健康領域絕對是以人為本的核心，這是一個非常龐大的行業，涵蓋從藥物研發、體外診斷的基礎生物科學一直到臨床診斷與治療、醫療服務和公共衛生的很多節點。因此，令人興奮的是，在這個係統的每一個節點上，我們會發現 AI 都能提供很大幫助。
我自己喜歡並關注的領域是醫療保健服務，關乎人類之間的互相幫助。在美國，護士的數量遠遠低於病患的需求量。這份工作非常辛苦，護士流失率很高，這方麵有一些驚人的統計數據，比如在一個輪班中，有些護士光是取藥、拿設備等平均就要走超過 4 英裏路，或者是一個輪班中就要完成多達 150、180 項不同的任務。與此同時，還有病患因為缺乏足夠的照顧而從病床上摔下來。分流重症病人和非重症病人方麵也存在很多問題，更不用說那些獨自在家生活的老人了，他們麵臨著獨居、癡呆症惡化等風險。
因此，醫療保健服務領域需要大量幫助。我在過去十多年的工作中一直在研究使用智能攝像頭，即非侵入式和非接觸式攝像頭，來幫助我們的護理人員關注病人的情況。如果他們躺在醫院的病床上，可以關注他們的動向，防止跌倒；如果在家，要關注他們的行為、孤獨感或營養攝入情況；如果在手術室，可以監測手術器械的使用情況，讓護士不用不斷清點器械來保證把物品不會遺留在病人體內。要關注護士每分鍾都要清點的器械，這樣我們就不會把它們遺失在病人體內。這種智能攝像技術我們稱之為“環境智能”（ambient intelligence），目的是幫助醫生和醫護人員提升對病人的整體護理質量。
Reid：AGI 現在是一個經常被討論的術語。我記得你好像曾經說過，你不確定 AGI 到底指什麽，因為不同人給它的定義都不一樣，像是各自的“羅夏墨跡測驗”（Rorschach Test）。能否談你對於 AGI 討論的看法，讓對於話題的討論能更加理性而不是過於分散、眾說紛紜。
李飛飛：這是一個既有趣又令人沮喪的對話。我真的不知道 AGI 意味著什麽，因為我認為這個詞是 10 年前從商業角度提出的，當時 AI 逐漸成熟，人們對它產生了很大的商業興趣。最初這個術語提出的意圖——我尊重這個意圖——是在“AI”中加入“G”，即“general”，以強調 AI 的未來需要更具通用性的能力，而不是狹窄的能力。例如，今天的自動駕駛汽車就比僅僅能探測樹木的攝像頭更具有通用性，對嗎？狹窄的 AI 隻能完成一個非常特定的任務，而更通用的 AI 能應對多種任務，這的確是個實實在在的區別。
我之所以覺得自己一直沒有完全搞清楚，是因為如果我回溯曆史，AI 早期奠基人 John McCarthy 和 Marvin Minsky 從 1956 年那場夏季研討會開始，所懷抱的夢想一直都是“讓機器能思考，能幫助人類決策，甚至能自己做事”。沒有人說過，“我們夢想的是僅用於檢測樹木的極其狹窄的 AI ”。標誌 AI 這一領域誕生的就是“會思考的機器”這一提法。所以從這個角度來看，我們有著同樣的夢想、同樣的科學好奇心、同樣的追求，那就是讓機器能夠執行極其智能的任務。從這個角度來看，我不知道應該稱其為 AI 還是 AGI ，對我來說這是一碼事。
Aria：對於你說的在 AI 能自己做事這方麵，隨著語音和對話式 AI 的進步，我感覺我們正在逐漸接近這樣一種狀態，和 AI 進行日常對話、讓它幫我們做事。你覺得現在在生活中使用智能體（Agent）的方式，哪些是特別有用的，或者說可能讓 AI 和語音技術在未來幾年改變生活？
李飛飛：我很肯定地認為，通過自然語言分享知識，無論是搜索、構思還是學習，是一個非常強大的方式。我自己也會使用 LLM 來理解一個概念，理解一篇論文，提出一些我不知道的問題。最讓我興奮的是，我看到人們和孩子們把它作為一種工具來提高自己的學習能力。我想強調的是，無論如何，我們都要確保人的自我能動性，為人們提供良好的學習工具、為人賦能。我認為，隨著這類強大工具能力的不斷深化——我本人也在為此而努力——我們會越來越多地看到，協作能力讓人類能夠利用這些工具更精確地做事。我很期待看到這一切發生。
Aria：我認為你強調的這點很重要，這當然是正確的事情，但我們也會聽到這樣的說法：“這些 AI 開發者試圖取代人類。我可不想每天對著屏幕 10 個小時”。我認為人與人之間的互動是非常關鍵的，對教學、社區、同理心等一切都很重要。在你的那本書《我所看到的世界》（The Worlds I See）中，有一個故事是關於一位數學老師的。你講到了你的高中數學老師薩貝拉先生，說明了人與人之間的交流是非常重要的。那麽，你能就這個話題再分享一下嗎？他給了你哪些讓你難忘的建議？
李飛飛：我在這本書裏記錄了我早年作為一個移民小孩的經曆。我 15 歲來到新澤西，進入一所公立高中，也不會講英語，這就是我人生旅程的開始。我很幸運，很快我就遇到了一位叫 Bob Sabella 的數學老師，他對我充滿了尊重和無條件的支持。他不僅是我的數學老師，還成為了我的朋友，幫助我度過了我作為新移民的艱難的青少年時期，作為朋友陪伴著我，直到他去世。但他不是通過言語教給我東西。他從未坐下來和我說：“嘿，飛飛。AI 將主宰世界。讓我告訴你，AI 要以人為本”。當時甚至沒有這個說法。
他隻是通過行動告訴我，歸根結底，我們的社會、我們的生活的意義在於我們為彼此所做的積極的事情，我們所堅持的信念、所追逐的燈塔。在他的行動中，我體會到尊重和托舉他人是一件美好的事情，即使那隻是一個懵懂的、不會說英語的移民小孩。所以，我認為這種慷慨、善良和同情心是做人的核心。我從他身上學到的最大東西就是以人為本。
Aria：說得真好。那麽，你希望人們經常問你的問題是什麽？
李飛飛：我希望人們能多問我一些關於如何利用 AI 幫助人的問題。我可以就這個問題談上幾個小時，我在斯坦福和世界各地的許多了不起的同事都在致力於這一事業，我不清楚他們具體正在做什麽，因為他們都是各自領域的專家，但至少我可以給人們指出他們的工作方向。
Reid：你自己所處的行業之外，你有沒有從哪些地方看到了進步或者發展勢頭，並對你有所啟發？
李飛飛：人文學科對能源的關注確實給了我很大啟發。我想我還是不能完全脫離 AI 來講，我覺得即使是 AI 的發展，也在推動非常現實的能源問題，例如電力。我認為環境的變化以及全球能源民主化是非常重要的，我們不能總是依賴化石燃料。因此，能源領域的許多進步和全球運動都是令人激動的。
Aria：最後一個問題，你認為如果一切會向著利於人類的福祉發展，未來 15 年可能發生什麽？實現這些可能的第一步是什麽？
李飛飛：我希望看到全球在知識、福祉和生產力上迎來增長，特別是對於共同繁榮、共享成果的強調。我之所以要強調這一點，是因為在技術方麵，我是一個樂觀主義者。我知道技術可以幫助人們。我知道，如果我們使用得當，它可以發現新知識，幫助我們創新，提高我們的福祉。但我認為重要的是，我們要吸取之前反複嚐到的教訓，那就是我們需要共享這些繁榮，需要使這種利益成果惠及所有人。
原文鏈接：
https://spectrum.ieee.org/fei-fei-li-world-labs
原標題：《李飛飛：我不知道AGI是什麽，我們應該尊重人類的能動性》
閱讀原文
(本文來自澎湃新聞，更多原創資訊請下載“澎湃新聞”APP)
