個人資料
雅美之途 (熱門博主)
  • 博客訪問:
歸檔
正文

諾獎肯定的人工智能也能糊弄人類

(2024-10-09 10:15:43) 下一個


媒體長期都說聖路易斯男孩Sam Altman是AI之父,因為他創辦的OpenAI公司所推出的ChatGPT徹底改變了AI的影響規模。

我當時就質疑這AI之父的稱呼,給一個斯坦福退學生讓人情何以堪?我們都不能以此鼓勵學生了。昨天諾貝爾物理獎授予普林斯頓已經91歲的榮休教授John Hopfield和早已非常著名的多倫多大學教授辛頓,這已經為AI之父正名,開創學科的基礎科學家才是最重要的。

我們兩次到訪蘇格蘭的愛丁堡,很喜歡在那裏的時光,分享些在中世紀古城拍的照片。我們每次都在Royal Mile和王子街散步,在所謂的皇家英裏街的坡下,就是美麗的愛丁堡大學,她的古老校園培養了今年的諾貝爾物理獎得主辛頓。

蘇格蘭是盛產文明巨星的地方,我們這次不談Adam Smith, 以及在愛丁堡大學讀過書的英格蘭人達爾文。

我們總說蘇格蘭為英格蘭貢獻了麥克斯維爾,因為他從蘇格蘭去劍橋建立了電磁理論;英格蘭為蘇格蘭貢獻Higgs, 他是發現了上帝粒子的內向紳士,為在蘇格蘭工作的英格蘭人。

辛頓也是在英格蘭的劍橋讀的本科,換了好多專業,最後以心理學主修畢業。他還做過木匠,直到去愛丁堡大學獲得人工智能的博士學位。辛頓是世代的優質基因傳承,但是跟他結婚也悲催,好幾任太太都是患癌去世,但願現在的伴侶無憂。

辛頓的教授名份掛在加拿大多倫多大學,其實他也應該是英裔美國科學家,他的獲獎電話都是在加州便宜的旅館接的。他在去年才辭去穀歌大腦主任的職務,擔任穀歌副總裁長達十年之久。他的非常重要的職業道路也是在美國完成的,在UCSD做完博士後返回英國,迅速發現英國沒錢和不是做學問的地方。他因此回到UCSD做了半年的訪問助理教授,然後去匹薩堡的CMU做助理教授和副教授。

最終因為政治的原因使更左傾的辛頓被多倫多大學挖去做正教授,他培養了很多優秀的人才,包括OpenAI的首席科學家。辛頓辦公司後, 仍然必須南下去美國灣區,因為自己的公司後來被穀歌收購了。

昨天的諾貝爾物理獎打破了一個傳統現象,今天的化學獎也是,那就是沒有出現猶太獲獎者。另一位物理獎得主是91歲的普大榮休教授John Hopfield,他是在芝加哥長大的波蘭後裔,資深如此這般仍然是一頭金發。他在傑出的文理學院Swarthmore讀本科,Cornell PhD,曾經在Bell實驗室、Caltech和伯克利都當過教授。

辛頓以神經網絡著名,現在卻像原子彈之父奧本海默反核擴散那樣,他對人工智能的潛在危害提出了嚴厲的警告。

這些是他在《紐約時報》發表的言論:

“It will be comparable with the Industrial Revolution,” he said. “Instead of exceeding people in physical strength, it’s going to exceed people in intellectual ability. We have no experience of what it’s like to have things smarter than us.”。(“這將與工業革命相媲美,”他說。“但這次不是在體力上超過人類,而是在智力上超過人類。我們沒有經曆過比我們更聰明的事物是什麽樣子”)。

“But we also have to worry about a number of possible bad consequences, particularly the threat of these things getting out of control.”。(“但我們也必須擔心一些可能的不良後果,尤其是這些事物失控的威脅”)。

“One is accustomed to having technologies which are not only good or only bad, but have capabilities in both directions,” he said. But he added, “You want to have some idea of how you can control the system, and how you can prevent disasters from occurring”。(“人們習慣於麵對既有好處也有壞處的技術,它們具備雙向的能力,”他說。不過他補充道:“你希望對如何控製這個係統有一定的了解,以及如何防止災難的發生”)。

今年的諾貝爾物理獎是跨界的,諾貝爾沒有數學或計算機獎,委員會以人工智能改變了物理學研究為由授獎。他們也可以此原因授予他們生理與醫學獎,何況辛頓在劍橋獲得的學位是心理學,Hopfield最後從普林斯頓退休的是分子生物學係。

他們所說的神經網絡,與人的大腦結構與功能完全是兩碼事,他們隻是時髦地說說而已。其實大腦的功能要複雜得多,而且人類對大腦的認知十分有限,我們對意識、記憶、情緒與情感的生物學基礎的認識都非常有限。

我也不認為人工智能對人類會產生根本性的威脅,可以充分利用人工智能,但是沒有必要害怕它。現在關於人工智能的討論,與幾十年前諾貝爾獎得主David Baltimore和華大前教授Paul Berg積極參與的關於重組DNA危害的爭辯非常相似。

講個最近發生的好玩的AI故事,我的同濟同學在美國做教授,他最近在ChatGPT上問世界上在很小領域的重要貢獻者,他的名字在列,便很得意地告訴我。

我把範圍擴大了些,以此問題問ChatGPT: “Who were the important contributors to complement research fields?”(“誰是補體研究領域的重要貢獻者?”)

In the field of complement research, several key figures have made important contributions:(“在補體研究領域,幾位重要人物做出了重要貢獻:”)??

1. Jules Bordet. A pioneering Belgian immunologist, Bordet discovered the complement system in 1906 and demonstrated its role in enhancing antibody-mediated destruction of pathogens. His work earned him the Nobel Prize in 1919. (“1. 朱爾·博爾代 (Jules Bordet),這位開創性的比利時免疫學家於1906年發現了補體係統,並展示了其在增強抗體介導的病原體破壞中的作用。他的研究為他贏得了1919年的諾貝爾獎”)。??

2. Paul Ehrlich. This German immunologist introduced the term "complement" and defined its function as part of the immune system, collaborating with antibodies to fight infections.(“2. 保羅·埃爾利希 (Paul Ehrlich),這位德國免疫學家引入了“補體”一詞,並定義了其作為免疫係統一部分的功能,表明補體與抗體協作對抗感染”)。??

3. Louis Pillemer. An American biochemist, Pillemer discovered the alternative pathway of complement activation in the 1950s, showing that complement could be activated without the presence of antibodies.(3. 路易斯·皮勒默 (Louis Pillemer),作為一名美國生物化學家,皮勒默在1950年代發現了補體活化的旁路途徑,表明補體可以在沒有抗體的情況下被激活”)??

4. John P. Atkinson. Atkinson is known for his work on the regulation of the complement system and its role in autoimmune diseases, particularly systemic lupus erythematosus (SLE). His research has advanced understanding of complement-related disorders. (“4. 約翰·P·阿特金森 (John P. Atkinson),阿特金森以其對補體係統調節及其在自身免疫疾病(尤其是係統性紅斑狼瘡)中的作用的研究而聞名。他的研究推進了對補體相關疾病的理解”)。??

5. Michael C. Carroll. Carroll has made major contributions to understanding how complement links innate and adaptive immunity. His research has provided insights into complement’s role in immune regulation and disease.(“5. 邁克爾·C·卡羅爾 (Michael C. Carroll),卡羅爾在理解補體如何連接先天免疫和適應性免疫方麵做出了重大貢獻。他的研究為補體在免疫調節和疾病中的作用提供了重要見解”)。??

6. Sir Peter Lachmann. A British immunologist, Lachmann made significant contributions to understanding complement regulation and its therapeutic applications. His work has been influential in the development of complement-based therapies. (“6. 彼得·拉赫曼爵士 (Sir Peter Lachmann), 這位英國免疫學家在補體調節及其治療應用的研究方麵做出了重大貢獻。他的工作對補體療法的開發產生了深遠影響”)。

These scientists have played critical roles in advancing our knowledge of the complement system, its mechanisms, and its involvement in human health and disease.”(“這些科學家在推進我們對補體係統的機製及其在人體健康和疾病中的作用的理解方麵發揮了關鍵作用”)。

這個結果相當不錯,雖然對阿肯森學術成就的總結不太全麵。懂點近代醫學史的人都知道,他們全是免疫領域的巨人,阿肯森排名第四。前兩名是諾貝爾獎得主,第三位發現了Properdin和補體旁路。

這些是我用手機搜索得到的結果,如果我在電腦上查看,答案會有所不同。那麽ChatGPT是否在我手機裏發現我經常提阿肯森,以此來討我歡心呢?不過也不見得,同濟美國牛人校友再怎麽要我問ChatGPT關於對他的評價,AI也出不了任何結果。

今年是諾貝爾獎的AI年,因為今天的諾貝爾化學獎也是授予AI對蛋白質結構和製備非自然界存在的蛋白質的貢獻,斯坦福本科和華大MD老爸說:“看來今年AI是大贏家。估計文學獎就直接給了ChatGPT了[Laugh]”。

今天諾貝爾化學獎的一半授予美國科學家David Baker, 他的組做出的東西充滿挑戰,他們運用計算機模型可以製備以前不存在的蛋白質,而且這些蛋白質具備全新的功能。這在某種程度上充滿危險,涉及倫理學問題,對生命的衝擊可以與人工改變胚胎相比較。

David Baker是美國西雅圖人,在哈佛讀的本科,隨後在伯克利加州大學跟諾貝爾獎得主Randy Schekman獲得博士學位。他在UCSF做完博士後便到西雅圖華大做助理教授,現為HHMI研究員。他的人生裏程碑的Nature等論文中,含有不少Qian、Cao和Jiang這樣的第一作者拚音姓氏。

今年的諾貝爾化學獎同時授予能夠解出幾乎所有蛋白質結構的AlphaFold2, 通俗點說就是可以穀歌蛋白質結構。其精確度不是100%,但這是可以讓結構生物學家丟工作的AI衝擊。這也是我見到的諾貝爾委員會反應最迅速的一次,因為他們的正規論文是在2021年才在Nature上發表的。

諾獎得主美國人John Jumper和英國人Demis Hassabis分別是獲獎Nature論文的第一和最後作者,諾貝爾委員會做事也公平。當然這是美國拉斯卡委員會的功勞,拉斯卡反應更加迅速,在2023年就授予了他們兩位拉斯卡基礎醫學獎。該獎項確實是諾貝爾獎的風向標,希望西南的陳誌堅好運。

Demis Hassabis想在倫敦重建美國當年貝爾實驗室的輝煌,而1985年出生的隻有39歲的美國人John Jumper是70年以來最年輕的諾貝爾化學獎得主。他們獲得諾貝爾獎的認可隻有3-4年的時間,已經可以與李政道和楊振寧的諾獎速度比美了。

AlphaFold2的創立是兩個國家的人才的碰撞與合作的結果,為美國與英國文化協同的產物。像James Watson當年從美國中西部去英國劍橋遇見Francis Crick,美國南方鄉裏人John Jumper在Vanderbilt和芝大受教育後去英國倫敦受雇於英國天才Demis Hassabis所創辦的DeepMind初創公司,該公司因為被穀歌收購變成了Google DeepMind。

文化的交流固然重要,基因的交融也是關鍵,因為Demis Hassabis的父母來自兩個古老的文明:希臘塞浦路斯和中國。他是很明顯的希臘姓氏和名字,但是他的母親是新加坡華裔, 他為父母的三個孩子中的長子。

Demis Hassabis是聰明得令父母頭疼的那種男孩,大家知道我說過天才與精神病隻有一層紙之隔。還好這位曾經是象棋神童的精神狀態還是正常的,不然英國皇室不會Knighted他,即授予騎士勳章或封爵。他隻是70後,但是已經被稱為Sir Demis Hassabis。他在劍橋讀博士期間也休學,出來辦遊戲公司,接著在UCL得博士,博士後是在MIT完成的。

感謝上帝,Demis Hassabis擁有婚姻,還傳聰明基因給了兩個孩子。這是十年前的媒體報道,不知現在家庭是否壯大了。

現在諾貝爾獎的三項科學獎項已經發放完畢,美國顯然是大贏家,遍布三個獎項。醫學獎的二位得主都是土生土長的美國人;物理獎分別是一位美國人和一位英國人;另外二位美國人和一位英國人獲得了化學獎。

這些新科諾貝爾獎得主都有一個共同的特點,那就是他們100%都擁有在美國求學或從事科學研究的經曆。美國是當之無愧的世界科學與教育的中心,其領袖地位超過了當年的羅馬。美國的科學影響力席卷全球,羅馬則是地中海周圍的龐大帝國。

 

[ 打印 ]
閱讀 ()評論 (6)
評論
fchshm 回複 悄悄話 回複 '雅美之途' 的評論 : 謝謝樓主回複,我隻看到照片下麵寫著英國,大概是寫他目前或者作出諾獎貢獻時的工作地點吧
雅美之途 回複 悄悄話 回複 'fchshm' 的評論 : David Baker和John Jumper都是美國人。Baker整個生涯全在美國,Jumper大約七年前在芝大得博士,在倫敦的Google DeepMind 工作。
fchshm 回複 悄悄話 樓下太固步自封了,AI是在人類已知數據庫裏學習,難道我們人類不是?alphaGo 一開始記人類棋譜,等到學成第一高手後就把人類譜子全忘記再重新按自己的勝率來下,反而指出人類很多棋譜的不足,現在學下棋的都去跟AI學了。圍棋如此,其它學科AI能創新或推翻現有知識隻是時間問題。
另外文章有個小錯,化學獎得主是兩個英國人一個美國人,樓主寫反了。
BMC 回複 悄悄話 同意樓下二位的觀點,目前AI都是基於人類以前創造的知識,這樣的功能不可能產生目前媒體所吹噓的工業革命,這次獲諾獎的蛋白結構預測也沒有真正超出人類的能力,ChatGPT甚至隻是一個高級玩具。但是,目前Google, meta, open AI 和馬斯克買幾十萬塊老黃芯片的目的並不是為了上述目的。他們的目的是製造具有有思維能力而且不需要train的AI , 而這次獲獎的alphafold 是需要用已知的知識去train. 這二者有巨大的不同。如果機器不需要train卻能解決問題,這就意味著它能自己思維想出新方法解決問題,這樣的AI 才能導致下一次工業革命,而這樣的AI需要極大的算力,這就是為什麽幾大公司搶購老黃的芯片,如果隻是alphafold , ChatGPT 這樣的功能,根本不需要那麽多的老黃芯片。在這方麵,仍處在探索階段,未來的成敗仍很難說,未來的AI 如果不能自主思維,目前幾千億的投資就打了水漂,AI 就是一個新bubble. 但目前看,可能會突破。目前的進展是可以用AI 證明難道不大的幾何題,這不但需要已知的知識如現有的幾何定理,還需要創造性思維去應用這些定理。這是一個很好的開端。到了AI可以證明哥德巴赫猜想之時,就是新的工業革命之際
槍迷球迷 回複 悄悄話 目前AI模型的最大短板恐怕是不能通過邏輯來判斷是非, 而是通過統計方法從海量信息來選擇較為可能正確的答案。這種模型用來寫詩作畫和起草忽悠文章無妨。 距離真正的“智能”還相去甚遠。
北美小鎮 回複 悄悄話 AI這玩意其實還是就是通過算法把數據A和結論B聯係起來。在現在的神經網絡算法下,不斷的訓練之後,得出準確聯係的可能性越來越高,但依然可能犯非常白癡的錯誤。AI根本沒有邏輯思維能力,隻能取代不需要多少思考的工作。本來醫生的工作它也可以做,但是架不住它時不時會出現匪夷所思的錯誤,沒人敢讓它行醫,倒是能給醫生提供不錯的參考。
登錄後才可評論.