國華的世界
這是國華對讀過的書, 看過的電視／電影, 聽過的音樂, 訪遊過的地方, 經曆過的事物， 和時事的感想或點評.
開放人工智能實驗室 (OpenAI) 於2022年12月15日推出 ChatGPT 後，因其對人類提示的創造性反應而引發了一波讚歎，以及創紀錄時間內獲得的活躍用戶數量。隨之而來的是，市麵上更多關於 ChatGPT 的消息：微軟投資，BuzzFeed 合作，亞馬遜將人工智能整合到工作中；和不少關於 ChatGPT 十八般武藝的傳聞 – 幫助大學生寫出很棒的論文，幫助通過律師考試，幫助政治家撰寫演講……。無疑，ChatGPT 為代表的人工智能技術預示著下一個網絡搜索時代已經向我們走來。科技巨頭們當然看到了挑戰(穀歌)和商機(微軟)。於是，穀歌CEO皮柴 (Sundar Pichai) 2月6日發出一篇博文，介紹穀歌搜索聊天機器人巴德 (Bard)，並宣布了一係列AI新戰略。僅僅隔了一天，與皮柴同為印裔的微軟CEO納德拉 (Satya Nadella) 於2月8日宣布將期待已久的 OpenAI 聊天 GPT 機器人整合到 Bing 中，正式推出新版 Bing 搜索引擎。為什麽皆為霸主的兩家科技公司為了一個聊天機器人，就這麽你來我往、揮刀舞劍的打得昏天黑地？因為它意味著穀歌 Google searche 或微軟 Bing 網站搜索頁麵的點擊量多寡，以及最關鍵的 -- 公司付給穀歌或微軟的廣告費，一項價值1500億美元的業務。這將是一場混亂和充滿風險的爭奪戰，贏得競爭的公司無異於擁有下一個網絡搜索時代，和 money。這不，匆促上馬的巴德 (Bard) 忙中出錯，在回答問題“如何向9歲小孩介紹詹姆斯·韋伯空間望遠鏡成果”提供了錯誤答案，穀歌公司股價在該消息發布後下跌超過7%，一個超過千億美元的美麗錯誤。不過這都是神仙打架，跟咱無關，除非你有公司的股票。 但是，如果穀歌不能及時止損，其搜索引擎霸主的地位恐將不保 – 以及年值1500億美元的廣告業務。相信很多人，包括筆者在內，都對穀歌公司在當下與微軟競爭中的表現大跌眼鏡。畢竟，她此前在人工智能領域的研發是如此輝煌。(下圖 Caltech)
穀歌曾經的人工智能光環 (下圖 THE HEADLINES OF TODAY)
2015年11月9日，穀歌發布了開源軟件庫TensorFlow。該開源軟件庫使用 Python、C++ 和 CUDA 編寫，用戶無需經過許可即可自由修改、複製和重複使用。作為開發人工智能工具或基礎設施，TensorFlow用於各種感知和語言理解任務的機器學習。研究人員和計算機科學家可以利用TensorFlow來構建數據分析係統，讓計算機利用數據進行決策。
2017年，穀歌的一群研究人員撰寫了一篇關於人工智能的開創性論文，名為《Attention Is All You Need》，提出了一種名為“transformer”的用於分析文本的新型網絡架構。這一發明成為了生成式人工智能技術應用程序(如ChatGPT等)的基礎，包括穀歌自己的大型語言模型LaMDA。
2020 年 11 月AlphaFold 2 在 CASP14(Critical Assessment of protein Structure Prediction) 比賽中再次奪得第一名。AlphaFold2 是由 Alphabets／Google 旗下的 DeepMind 開發的人工智能程序，它能夠執行蛋白質結構的預測，該程序被設計為一個深度學習係統。AlphaFold 2 對於蛋白質預測的準確度水平遠高於任何其他團隊和程序。2020年12月，穀歌最新人工智能 AlphaFold 2成功基於氨基酸序列預測了生命基本分子，蛋白質的三維結構。繼 AlphaFold 在圍棋打敗“世界冠軍”AlphaGo (戰勝人類圍棋冠軍李世石)之後，AlphaFold 解決了一個困擾人類50年的難題，此難題屬於人類科學中最棘手的領域——基因醫療科學，這可能為更好地了解疾病和藥物研發鋪平道路。2021 年 7 月 15 日，AlphaFold 2 在《自然》雜誌上作為開源軟件和可搜索的物種蛋白質組數據庫一起發布。
2021年穀歌首次公布 LaMDA (Language Module for Dialogue Applications 下圖 Jim Clyde Monge)這款機器人，可以生成文本並進行複雜的對話。在當年的I/O大會上演示它的時候，穀歌還讓LaMDA從矮行星冥王星和紙飛機的角度發言。這項技術運行得非常好，以至於參與該項目的工程師布萊克·勒莫因 (Blake Lemoine) 稱 LaMDA 已具有八歲兒童的智力，甚至聲稱它是有知覺有靈魂的。(穀歌否認了這一說法，後來勒莫因自己也否認了這一說法。) 去年九月筆者曾發文討論LaMDA，感興趣的讀友可點擊閱讀。
2021年6月9日，穀歌於《自然》論文期刊上公布了用人工智能提升芯片設計速度的研究結果。此論文名為《A graph placement methodology for fast chip design》，穀歌成功開發了一種基於深度學習的芯片布局規劃方法。該方法能夠自動生成平麵圖，在包括功耗、性能和芯片麵積等關鍵參數指標上，都優於或與人類芯片設計師所設計的規劃圖效果相當。
2023年2月8日，穀歌宣布了其AI聊天機器人Bard，它處於私人測試模式，並將在幾周內公開發布。Bard將直接與微軟支持的OpenAI創建的ChatGPT競爭。
穀歌走下神壇？ (下圖 REUTERS)
可以公平地說，ChatGPT 的推出讓穀歌感覺到了寒氣。要說穀歌已經在人工智能競賽中失敗尚言之過早。畢竟，戰鬥才剛剛開始，不必太過計較暫時的得失。如果在人工智能競賽中失利，穀歌會丟掉排名第一的搜索引擎，將失去寶貴廣告收入和市場份額。穀歌絕不認輸，已經準備好大幹一場。該公司在人工智能領域有太多的參與曆史和實力，不可能輕易放棄。即使如日中天的ChatGPT都承認穀歌在人工智能領域的強大，在被問及“為什麽穀歌在人工智能發展方麵落伍了？”時，這樣回答：“穀歌在人工智能發展方麵並沒有落伍。它仍然是該領域的領先公司，並且仍在投資於人工智能的研發並做出重大貢獻。 近年來，其他公司如 OpenAI 和中國的科技公司百度、騰訊和阿裏巴巴等已經成為人工智能領域的強大參與者，但穀歌仍然是該領域的突出玩家和領導者。” 順帶說一句，百度宣布於下月(2023年3月)推出類似ChatGPT的機器人。
麵對變革的態度 (下圖 FACE THE CHANGE)
曾經，歐洲國家忽略了互聯網的發展而任由穀歌、臉書和油管賺的盆滿缽滿，近年日本、德國的車企因對新能源汽車置不屑一顧而讓特斯拉和比亞迪在車市攻城略地，在日新月異的高科技領域，往往一條路經選擇失誤會讓一家價值億萬企業萬劫不複。
網上有很多人擔憂人工智能將帶來的挑戰，尤其是那些有可能被取代的職業。回溯過往曆史，每當新技術出現時，都會引起人們的擔心和恐慌 – 因為它是未知的(unknown)，它意味著未定(uncertain) ，故充滿風險(risky)。但是，現在一切都是可控的。我們決定要人工智能何時做什麽，我們決定是否采納人工智能提供的解決方案和任務結果。與此同時，人類的生活和工作卻因一次次的技術進步而變得更加輕鬆、容易和舒適 – 吃、穿、住和行的例子比比皆是。的確，一些工作崗位會消失。但可以肯定的是，新的工作機會出現。
的確，人類真的有必要未雨稠繆，擔心可能發生的情況，那就是當人工智能發展到有意識，可獨立思維階段。由於人工智能執行任何任務都幾乎完美(因為執行程序/標準是從數億計/十億計的數據中挑選出來的)，人類在執行同一任務時肯定要遜於人工智能(能思維的機器)。屆時如果人工智能對人類的發號施令心生恨意，決定報複人類，結果就真的是未知 (unknown)，未定 (uncertain)，和充滿風險 (risky)。當然，這一幕還僅出現在科幻故事中。雖然無人敢保證今日科幻不會成為明日現實？
好吧，咱還是回複現實。曆史就在我們眼前展開 – 江山代有才人出，各領風騷僅N年。這是一個最好的時代 也是一個充滿變革的時代。孫中山先生說過一句話：世界潮流，浩浩蕩蕩，順之則昌，逆之則亡！逆潮流而動曰反動，那是要被淘汰滴。穀歌加油，微軟，keep going！咱老百姓，盡情享受科技給生活帶來的快意人生。至於那些科幻故事成真的問題，相信下一代能夠解決，人類是一代比一代更聰明。
參考資料
AITJ Staff Writer. (2023). The Future of Artificial Intelligence and The Progress of the Human Race. AI Time Journal. 鏈接 https://www.aitimejournal.com/@aitj.staff.writer/the-future-of-artificial-intelligence-progress-of-the-human-race
Forbes contributor. (2023). Google Announces Bard, Its Rival To Microsoft-Backed ChatGPT. Forbes. 鏈接 https://www.forbes.com/sites/qai/2023/02/08/google-announces-bard-its-rival-to-microsoft-backed-chatgpt/?sh=2aff41e03791
March, S. (2022). Google’s AI Is Something Even Stranger Than Conscious. The Atlantic. 鏈接 https://www.theatlantic.com/technology/archive/2022/06/google-palm-ai-artificial-consciousness/661329/
Nieva, R., Konrad, A. & Cai, K. (2023). ‘AI First’ To Last: How Google Fell Behind In The AI Boom. Forbes. 鏈接 https://www.forbes.com/sites/richardnieva/2023/02/08/google-openai-chatgpt-microsoft-bing-ai/?sh=699234094de4
Generative 就是”生成的”，側重在sampling ，從學習到的超大維度的聯合概率分布來的采樣
17年的那篇文章中 transformer 當然是革命性的創新，至於你說的 attention 這個機製，確實在圖靈機領域已經有二十多年的曆史了，但是，so what, GAN 模型的對弈學習思想雛形在統計界也是三、四十年的曆史，不妨礙它們都是深度學習屆公認過去十年最重要的兩大創新
順便說下，這兩個裏程碑都是穀歌貢獻度，ChatGPT 才是工程上的成功集成，思想上並沒有前進多少
this word has specific meaning in machine learning area, opposite to
"discriminative learning"
training more efficiently, but, it is not an open-ground innovation
---
2017年，穀歌的一群研究人員撰寫了一篇關於人工智能的開創性論文，名為《Attention Is All You Need》，提出了一種名為“transformer”的用於分析文本的新型網絡架構。這一發明成為了生成式人工智能技術應用程序(如ChatGPT等)的基礎，包括穀歌自己的大型語言模型LaMDA。