3月29日,北京2025年中關村論壇上,圖靈獎得主約瑟夫·斯發基斯(Joseph
Sifakis)發表了題為《邁向工業人工智能的挑戰與機遇 》的主題演講。
希發基斯教授在演講中首先明確指出AI技術雖取得令人矚目的成就,但仍處於"起步階段",其在實體經濟中的真正價值尚未充分釋放。
之後他揭示了對當下AI發展的三個關鍵洞見:首先,AI必須從當前的"對話服務"模式轉向"自主係統",才能真正實現工業智能化轉型;其次,歐美在AI監管框架上的分歧已成為全球AI治理的重大障礙;最後,中國憑借其堅實的工業基礎和統一市場,有潛力在領域特定AI和工業自主係統中實現戰略突破。
其結果,就是希發基斯教授所強調的:"中國可以在工業人工智能領域處於領先地位,平衡AI的戰略博弈,並參與塑造全球AI治理體係。"
以下為演講全文:
大家好。
我很高興就工業人工智能及其前景發表演講。
首先,我要說信息通信技術和人工智能直到最近才開始有少量互動,之前它們是平行發展的。而
人工智能在數字革命中隻起到了邊緣作用。
你可以看到數字融合是不同類型的計算機應用中的趨勢。你能看到這一進展,包括商業應用、電信網絡和嵌入式係統。預計在這種演變中,人工智能應該在開發智能係統、自主係統中發揮重要作用。我認為人工智能的成功將僅僅通過它對構建智能係統的貢獻來實現,從而達到數字融合的最終階段。
現在,我想說人工智能仍處於起步階段,盡管我們今天看到了這些令人印象深刻的結果。它隻為我們提供了構建智能係統所需的元素,但還沒有合成它們的原理和技術。
而今天的人工智能專注於輔助功能,而其未來應用將需要與需求進行持續交互,或者不需要人工幹預。
所以我認為有三種不同的使用人工智能係統的方式。今天我們有問答式人工智能係統,當你提問時,你會得到答案,如ChatGPT等。然後我們還需要用於工業應用的監控器來監控係統,對緊急情況進行預測,分析緊急情況。當然,重點應該放在自主人工智能上。我們需要能夠持續與係統交互的人工智能代理。我認為人工智能產業革命才剛剛開始,其實現將在很大程度上取決於我們開發能夠構建自主係統的人工智能賦能代理的能力。
現在,我想明確一點,
沒有單一的人工智能。有不同的人工智能方法,不同的人工智能應用。
在Gartner的技術成熟度曲線圖表中,你可以看到不同解決方案的成熟度。顯然,計算機視覺在這裏是一項成熟的技術,已經被廣泛使用。這裏你看到自主係統,以及其他還不夠成熟的人工智能技術。所以很清楚,非常重要的是要理解這一點,即並不存在單一的人工智能,並且我們有不同成熟度的解決方案。
另一部分我想強調的是,
目前我們擁有的是通用人工智能,而且在特定領域的應用方麵有著巨大的潛力。我們需要用於科學的人工智能,用於經濟和社會的人工智能,麵向工程和工業的人工智能。很明顯,我們今天的人工智能不能直接應用於科學數據分析,需要專業化研究。或者即使我有了用於自動駕駛的人工智能,這也不適用於電信。
你需要特定領域的人工智能,這很清楚。
在人工智能工業革命中,我認為自主係統將發揮重要作用。我希望你理解這個概念。自主係統源於通過用自主代理替換人類來進一步自動化現有組織的需求,這正是物聯網所設想的。自主係統支持一種超越機器學習係統的數據係統範式。這些都是通常很關鍵的複雜係統,它們由應該管理可能相互衝突的目標集的代理組成,應該能夠與不可預測的物理信息係統環境進行交互,並且能夠與人類和諧協作。
很明顯,今天實現自主視覺需要密集使用人工智能係統,這與信息通信技術係統不同,無法用數學模型解釋。我們無法根據數學模型預測它們的行為,而這樣做的後果是,我們無法像保證日常物品的可靠性那樣來保證它們的可靠性。
我認為這一點特別體現在自動駕駛係統的案例中。我們曾被承諾到2020年將看到完全自動駕駛的汽車,但情況並非如此。今天,關於安全問題的討論非常熱烈。所以重要的是人工智能係統的安全性,這已成為國際峰會和聯合國審議的主題。我們不能像對傳統信息通信技術係統那樣嚴格保證人工智能係統的安全性。
需要強調的是,有些人試圖通過聲稱應基於以人為中心的主觀屬性來評估人工智能風險,從而轉移關於安全人工智能的討論。大型科技公司談論人工智能對齊問題,負責任的人工智能具有一係列難以甚至無法評估的特性。而我隻想在這裏說的是,這種方法走向死胡同,因為你
無法保證今天的人工智能具有以人為本的特性,由於我們不了解構成人類智能的決策機製。
依我看來,所有跡象表明,人工智能今天已經達到了某種平台期。其對實體經濟的使用和影響非常有限。這當然是由於不充分的可靠性,但這也是美國大型科技公司的戰略問題,它們優先考慮讓公眾快速采用對話技術以占領市場,追求巨大化。
它們采用了一種需要巨額投資的蠻力方法,我認為這也在打擊沒有相同投資能力的競爭對手和國家。然而,我認為這一策略也涉及一些嚴重的經濟風險。經濟分析師警告稱,投資規模與這些投資回報之間存在不平衡,以至於有些人擔心金融泡沫會破裂。
讓我解釋一下,
自主係統的開發需要將傳統技術與人工智能相結合,這帶來了一些非平凡的技術問題。一個問題是如何從不可塑的人工智能組件構建可信賴的係統。另一個重要問題是如何從設計時的正確性轉移到運行時的正確性。
當我們開發一個傳統係統時,我們盡量在完成開發時保證其屬性,而且係統不會進化。但在這裏,對可進化性有很強的要求。
一個非常重要的問題是,我們如何驗證自主係統和人工智能係統。顯然,現在我們從理性主義轉向經驗主義,因為我們無法應用數學模型來預測這些係統的行為。關於自動駕駛汽車何時足夠安全,存在很多爭論。我們可能需要統計技術,但測試技術今天尚未成熟。當然,缺乏技術標準是一個非常重要的問題。如果我們沒有標準來評估風險和強製實施某些方法論,我們不能接受自主係統。
在這裏,我想強調美國的立場,它將標準視為創新的障礙,實際上采用自我認證。自我認證意味著製造商將保證其係統的可靠性,例如特斯拉在沒有任何獨立機構擔保的情況下保證特斯拉汽車的可靠性。
我認為在自動化係統和自主係統之間還有很多工作要做以彌合差距。
我們需要努力建立一個新的科學和技術基礎,這需要一些時間。我想強調的是,也許今天我們已經有了在某些任務上超越人類的超級智能係統。我們可以有一個非常好的係統,在下棋方麵超越任何人類玩家,但這不能開車。我的意思是,自主係統需要多種技能的結合,而我們今天還沒有這樣的係統。
另一個變得越來越重要的是全球監管框架的存在。如果我們沒有這樣的框架,我們不會接受將人工智能用於關鍵決策係統。這很清楚。大家都同意我們需要這樣的框架,但對什麽可以和應該被監管還沒有達成一致。使用人工智能有哪些風險,實踐中如何實現?
隻是為了舉個例子,在人工智能監管方麵,歐盟和美國之間的立場存在分歧。你可能知道,歐盟去年投票通過了非常全麵的人工智能法規。這些法規采用了所謂的風險管理方法,要求高關鍵性係統具有高可靠性。如果我們應用這些法規,很明顯很多自主應用程序、人工智能應用程序將不被接受,我們將停留在對話層麵。相反,美國的法規限製較少,它們僅包含建議和指南,讓商業人工智能開發者可以自由行動,隻是有義務與美國當局合作。這些規定也與大型科技公司的立場一致,它們提倡負責任的人工智能原則,並認為不應僅基於嚴格的技術標準來評估人工智能係統。
所以今天的情況是,達成全球監管框架協議的機會渺茫。我認為美國正在利用其在對話式人工智能領域的優勢,想推行這種以自我調節的市場為中心的方法。
現在,一個重要問題是,在那種情況下中國能做些什麽?
我認為中國擁有堅實而廣泛的工業基礎和統一的國內市場,非常有優勢去開發更可靠的、更能適應實體經濟需求的人工智能,特別是實現從自動化係統到自主係統的轉變。
我認為中國應該專注於每個應用領域的核心技術,以開發特定領域的解決方案。這是可能的,因為中國可以從其龐大且多樣化的工業基礎中獲取豐富的數據,用這些數據來訓練係統以解決工業問題。當然,中國還可以依賴我們擁有的大量智能手機用戶的數據。
另外,中國應該按行業整合國有企業來生產基本的構建模塊。要構建工業人工智能應用程序,還有很多缺失的構建模塊,如強大的硬件組件、平台、方法和工具。
中國發展自己的人工智能願景也非常重要,這個願景應該與美國的願景不同。中國應利用其更強大的工業基礎,將人工智能應用於各種領域,如自動駕駛運輸係統、智慧城市、智能工廠和農場等。如果中國成功實現這一願景,我認為中國能夠在工業人工智能領域處於領先地位,平衡人工智能的戰略博弈,並與誌同道合的國家攜手,以一種能夠調和科技發展與社會安全雙重需求的方式監管人工智能。