您的位置:
文學城
»
新聞
»
焦點新聞
» 2024諾貝爾物理學獎授予兩位人工智能研究先驅
2024諾貝爾物理學獎授予兩位人工智能研究先驅
文章來源: 知識分子 於
2024-10-08 20:10:36
- 新聞取自各大新聞媒體,新聞內容並不代表本網立場!
導 讀
2024 年諾貝爾物理學獎授予了約翰-霍普菲爾德(John J.
Hopfield)和圖靈獎得主、AI教父傑弗裏-辛頓(Geoffrey E.
Hinton),"以表彰他們利用人工神經網絡進行機器學習的奠基性發現和發明"。辛頓在接受電話采訪時表示,我沒有想到(I have no
idea that will happen)。
撰文|張天蓉
● ● ●
約翰·J·霍普菲爾德 (John J. Hopfield )
約翰·J·霍普菲爾德 (John J. Hopfield ) 1933 年出生於美國伊利諾伊州芝加哥。他於 1954
年獲得斯沃斯莫爾學院學士學位,1958 年獲得康奈爾大學物理學博士學位(導師為 Albert
Overhauser)。他在貝爾實驗室理論組工作了兩年,隨後在加利福尼亞大學伯克利分校(物理學)、普林斯頓大學(物理學)、加州理工學院(化學和生物學)和普林斯頓大學任教,現在是霍華德-普萊爾分子生物學名譽教授。35
年來,他一直與貝爾實驗室保持著密切聯係。
1986 年,他成為加州理工學院計算與神經係統博士項目的創始人之一。他獲得了 2024 年諾貝爾物理學獎。
他最有影響力的論文包括:描述極化子的 “The Contribution of Excitons to the Complex
Dielectric Constant of Crystals”(1958 年);描述長程電子轉移量子力學的 “Electron
transfer between biological molecules by thermally activated
tunneling”(1974 年);"Kinetic
Proofreading:1974年);“神經網絡和具有突發性集體計算能力的物理係統”(1982年)(被稱為Hopfield網絡),以及與D.
W. Tank 合著的 “優化問題中決策的神經計算”(1985
年)。他目前的研究和近期發表的論文主要集中在如何將動作電位定時和同步用於神經生物學計算。
傑弗裏·辛頓(Geoffrey E. Hinton)
傑弗裏·埃弗裏斯特·辛頓,英國出生的加拿大計算機學家和心理學家,多倫多大學教授。以其在類神經網絡方麵的貢獻聞名。辛頓是反向傳播算法和對比散度算法(Contrastive
Divergence)的發明人之一,也是深度學習的積極推動者,被譽為“深度學習教父”。辛頓因在深度學習方麵的貢獻與約書亞·本希奧和楊立昆一同被授予了2018年的圖靈獎。
1985年,在奧地利阿爾卑斯山奧伯萊赫(Oberlech)的一個研討會
他曾花了小半個世紀的時間開發神經網絡,讓機器擁有了深度學習的能力,如今,他的願望實現了:人工智能之浪潮洶湧澎湃滾滾而來。然而,這位AI大神卻退縮了,他對他教會它學習的機器產生了懷疑,甚至憤怒。他擔心他畢生的工作可能導致人類的終結,他認為他的最終使命是警告世界!
他,就是如今被譽為“AI教父”的傑佛裏·埃佛勒斯·辛頓(Geoffrey Everest
Hinton,1947-)[1]。
家族傳奇
辛頓可以算是學界少有的傳奇人物,其傳奇之一,是他顯赫的家庭背景。我們從他的一位“玄祖父”布爾說起……
英國數學家喬治·布爾(George
Boole,1815年—1864),無疑是計算機科學的前輩之一,一位大師級人物。大家都知道的布爾代數、布爾邏輯,便是以他命名的。布爾出生貧困,但他的整個後代,以及連帶的3個家族可了不得,每一個都值得驚歎一聲:好一個“科學世家”!
布爾的夫人瑪麗是一位女權主義哲學家,也是自學成才的數學愛好者,特別喜歡代數。瑪麗夫人的娘家姓氏(Everest)中,也出了好幾位科學名人,實際上,Everest是西方對珠穆朗瑪峰的稱呼,這來源於瑪麗的叔叔喬治·埃佛勒斯(George
Everest),他勘察印度時發現了這座山,珠穆朗瑪峰便以他的名字命名。而且,傑佛裏·辛頓的中間名便取為Everest,即珠穆朗瑪峰的英文名。
布爾和瑪麗,這對珠聯璧合的伉儷育有五個女兒,她們本人、配偶及後代,都有不凡的成就。非常有趣的是,布爾女兒中的老大和老小,都與中國有淵源。所以,首先簡要介紹中間3個女兒:老二嫁給了藝術家愛德華·泰勒,他們的兒子傑弗裏·泰勒,是著名物理學家和數學家,二戰時曼哈頓計劃的核心成員之一;三女兒繼承了父親的數學天賦,對四維幾何深感興趣獨立鑽研,頗有成果;四女兒是英國史上第一位研究藥學的女性和女化學教授。
布爾第五個女兒,艾捷爾·麗蓮·伏尼契,為中國人所熟悉是因為她是《牛虻》一書的作者。
布爾的大女兒瑪麗,嫁給了數學家和作家查理斯·辛頓,生了四個兒子。其中小兒子的孫輩中,韓丁是“中國人民的好朋友”,寫了一本有關中國土地改革的長篇作品《翻身》。韓丁的妹妹寒春,是參與了曼哈頓計劃的女核物理學家,她的丈夫陽早,是美國養牛專家,夫妻倆長年定居中國。
圖1:傑弗裏·辛頓(8歲時抱著動物園的蟒蛇、中學、近年)
就是布爾的這位大女兒,聯姻了“辛頓”的家族,這個辛頓家族中科學界名人和教授也是難以數清,我們就不一一列舉了。總之,這對“布爾+辛頓”生下了一個曾孫,便正是我們本文的主角:傑弗裏·辛頓。
所以,辛頓是邏輯大師布爾的玄孫,短短的計算科學史中,玄祖玄孫皆大師,不是傳奇是什麽?
辛頓出生於英國,父親是劍橋大學教授,是著名的昆蟲學家,研究甲蟲的權威。辛頓和他的三個兄弟姐妹在一所充滿動物的大房子裏長大,父親還曾經將毒蛇關在車庫的坑裏。
嚴厲的父親自視甚高,似乎認為兒子永遠無法攀登自己的頂峰。但父親早已於70年代過世,沒有來得及看到兒子的學術引用已經遠遠超過了他。
求學傳奇
盡管傑弗裏·辛頓的周圍環境中,不乏傑出的科學家、學者和教授,但與大多數成功人士一樣,他的求學生涯卻並不總是那麽順利。也許是因為這類年輕人心裏有太多自己的想法和主張的緣故。
辛頓高中時,進入了他口中的“二流公立學校”,克裏夫頓學院,不過,辛頓在那兒碰到一位十分聰明的同學,這位朋友對他說:“你知道嗎?大腦的記憶並不是儲存在某個特定的地方,而是分布在整個大腦,在整個神經網絡裏傳播。“,朋友又解釋道:”大腦使用全息圖,在全息圖中,你可以砍掉一半,但你仍然可以獲得整個圖片,所以……”
朋友的話使辛頓興奮,也正是從這個時候起,辛頓開始對大腦的運作深深著迷,這是他人生的關鍵起點。從此後,辛頓將一個目標放在了他的潛意識裏:想了解大腦是如何工作的?
一開始,18歲的辛頓進入劍橋大學國王學院學習物理、化學和數學,但於一個月後就退學了。辛頓去倫敦工作了一年,做了各種各樣的事情。第二年,他改修建築學,但這次堅持的時間更短:一天!後來,辛頓也嚐試過轉向哲學,不過也是半途而終。
再後來,辛頓轉而研究物理和生理學,成為當年劍橋大學唯一一個同時學習物理和生理學的學生。然而,因為他沒有任何生物學背景,所以學習生理學非常困難。但辛頓有所期待,因為據說在第三學期,生理學教授將告訴學生大腦是如何工作的,這正是辛頓學習生理學的原因。終於到了第三學期,由像赫胥黎這樣非常傑出的學者教授這門課。不過,結果並不是辛頓所期待的。生理學教授認為大腦是如何工作的呢?他們的想法是,有神經元,有沿著軸突和神經元傳播的動作電位。但僅此而已,他們實際上並沒有說出大腦是如何運作的,因為他們並不知道啊。並且,辛頓覺得心理學理論似乎太簡單了,不可能用以解釋大腦。
1970年獲得實驗心理學學士學位後,對大學本科學習頗感失望的辛頓放棄了劍橋大學,成了一名木匠。他一邊做書架、木門,一邊思考人類大腦的運作原理,自認為這是他喜歡的生活方式。作了一年多之後又有新想法了,因為靠木匠謀生並不是件容易的事情,對了解大腦也無幫助,所以,辛頓又考慮回歸學術界,並決定嚐試一個新方向:人工智能。
對如此奇特多變的求學經曆,辛頓謔稱自己患上了“學習上的過動症”,在一個專業上無法穩定下來。但其實不然,辛頓始終都在尋求自己的方向。前一段,是多次綴學的“傳奇”,後麵的經曆,便說明了辛頓認定方向後堅持不懈的“傳奇”精神。
他1972
年去了愛丁堡,進入蘇格蘭愛丁堡大學攻讀博士,這次可能算是走對路了,因為那兒有一位非常聰明的叫希金斯(Christopher
Higgins,1923 – 2004)的教授,正在研究神經網絡,這是辛頓長年累月思考認為可以用機器實現大腦功能的方向。
但是,辛頓好像總是運氣不佳,就在他開始追求這個目標時,希金斯教授改變了他的學術初衷,“叛變”到了AI的符號主義一邊,認為聯結主義的神經網絡是無稽之談。這顯然是受了MIT的AI大佬閔斯基的影響。閔斯基的《Perceptron》一書於69年出版,幾乎摧毀了神經網絡領域,使得1972
年成為神經網絡有史以來最低潮的時期。
因此,希金斯試圖說服辛頓停止做神經網絡,轉做符號人工智能。於是辛頓說,再給我六個月,我會證明這是有效的;然後每六個月之後,辛頓再跟希金斯說與上次一模一樣的話。兩人磨磨唧唧地爭論了五年,辛頓終於堅持研究備受冷落的神經網絡並熬到了博士畢業。
職場傳奇
辛頓的觀點總是與眾不同別出一格,閔斯基在《感知器》中,詳盡說明了單層神經網絡的限製以及功能不足之處,使得幾乎所有的學者都相信這是個沒有未來、注定失敗的一條路,但辛頓卻始終堅持神經網絡研究,認為閔斯基提出感知機的缺點是件大好事,發現神經網絡的問題,是解決其問題的開始,並不一定要放棄。
辛頓堅信大腦絕對不是通過人類編寫的“智能程序”來工作的。例如,你可以嚐試給小孩子編個程序,讓他照此步驟一步一步地從語法開始學習語言,但這並不會真正起作用,孩子們會從經驗中學習而不會按照你給他編的程序來做。
作為一名年輕的研究生,辛頓對自己認定的目標如此自信,令人刮目相看。辛頓將此歸結為少年時經曆的環境所致。他的父母是無神論者,卻將兒子送去了一所宗教學校。在那兒,辛頓周圍的每個人都相信上帝,除了他之外。因此,他已經習以為常總是與別人的不一樣。辛頓在一次訪談中表示,這對科學家是非常好的訓練,讓你對自己的觀點充滿信心,至少給你一個合理的理論,即每個人都可能是錯的,你需要堅持自己的主張,直到實現它或者否定它,做科學就需要這樣的精神。
博士畢業幾年之後,辛頓去了美國作博士後。他高興地在加利福尼亞找到了幾個神經網絡的支持者。20 世紀 70
年代末,在加利福尼亞州,聖地亞哥有一個團體,特別是 David Rumelhart等,他們認為神經網絡非常有趣。
圖2:辛頓1986年有關“反向傳播”的論文
1986年,辛頓與David Rumelhart和Ronald
Williams共同發表了一篇題為“通過反向傳播誤差來學習”(Learning representations by
back-propagating errors)的論文[2]。
三位科學家並不是第一個提出這種“反向傳播”方法的人。但他們將反向傳播算法應用於多層神經網絡並且證明了這種方法對機器學習行之有效。他們的論文也證明了,神經網絡中的多個隱藏層可以學習任何函數,從而解決了閔斯基等書中提出的單層感知機存在的問題。
同一時期,辛頓與 David Ackley 和 Terry Sejnowski 共同發明了玻爾茲曼機。
之後,辛頓在匹茲堡的卡內基梅隆大學找到了一份工作,但他對裏根領導下的美國外交政策,特別是對中美洲的幹涉越來越感到不安。他和他的妻子羅斯收養了來自南美的一男一女,卻不太喜歡在美國撫養他們。另外,美國的大多數人工智能研究都是由國防部資助的,這也讓辛頓不滿意,因此他接受了加拿大高級研究所的邀請,以及多倫多大學計算機科學領域的職位,並在加拿大啟動了“機器和大腦學習”項目。
圖3:辛頓著名的“徒子徒孫”們
辛頓1986年有關反向傳播算法和波爾茲曼機的兩篇重要文章,抵不過當年“人工智能的寒冬”,似乎反響不大,但辛頓在加拿大多倫多大學,畢竟有了穩定的位置以及還算充裕的支持神經網絡的研究經費,使他能在這個冷門領域裏堅持耕耘三十餘年無怨無悔。更為重要的是,隨著時間的推移,一些深度學習的信徒們被辛頓所吸引。他培養了不少學生,學生又有學生,加上博士後及合作者,研究神經網絡深度學習的人才濟濟群星閃爍,盡管寒冬期間工作機會少,資金仍然稀缺,但研究者們興趣盎然,他們憑借自身的信念,排除嘈雜的幹擾而自得其樂,江湖貌似平靜但暗流湧動,為人工智能春天之到來做好了準備。正是應了一句名言:“大隱隱於市”。
他長久的在這個冷門的領域耕耘,讓他最終迎來了春天,不但為他贏得了2018年的圖靈獎,也為人工智能領域帶來了革命性的突破。