原文鏈接 （https://interestingengineering.com/technological-singularity-an-impending-intelligence-explosion）
科技奇點：即將到來的“智能爆炸”
- 我們知道它即將到來，但它可能很快就會發生嗎？
馬修·S·威廉姆斯
2021 年 8 月 8 日
在本世紀，人類預計將經曆革命性的變化，這種變化是自從我們第一次開始說話，利用工具和種植作物以來就從未見過的。這種變化有多種名稱——“智能爆炸”、“加速器”、“技術奇點” —— 但它們都有一個共同點：
都歸結為這樣一種假設，即加速變革、技術進步和知識將從根本上改變人類。該理論以各種形式引用了諸如技術的迭代性質、計算技術的進步以及重大創新導致人類社會爆炸性增長的曆史實例等概念，來證明它的可信性。
許多支持者認為，這種“爆炸”或“加速”將發生在21世紀的某個時候。雖然具體細節尚有爭議，但支持者普遍認為這將歸結為計算技術和人工智能 (AI)、機器人、納米技術和生物技術領域的發展。
此外，對於它將如何發生，是否是不斷加速變化的結果，是否是由自我複製和自我升級的機器引發的失控加速，是否是由人工智能引發的“智能爆炸”，也存在不同意見。還有對先進和獨立的人工智能的誕生，或生物技術增強和增強的結果，也同樣存在不同意見。
對於這是否會會類似開關一樣突然變化，還是隨著時間的推移逐漸蔓延的漸進過程，可能沒有明確的起點或拐點，意見也存在分歧。但無論哪種方式，人們都同意，一旦“奇點”確實發生，我們現在所熟悉生活將不再相同。在這方麵，源於黑洞的術語“奇點”用的非常恰當，因為它也有一個事件視界，一個我們理解其含義的能力崩潰的時間點。
定義：
在這種情況下，“奇點”一詞的使用首先出現在斯坦尼斯拉夫·烏拉姆 (Stanislav Ulam) 撰寫的一篇關於約翰·馮·諾依曼 (John von Neumann) 的生平和成就的文章中。烏拉姆在講述朋友的觀點時，描述了兩人曾談到加速變革的過程：
“有一次談話圍繞著不斷加速的技術進步和人類生活方式的變化，這使得人類曆史上的某些基本奇點似乎接近了，正如我們所知，人類事務無法繼續下去。 ”
然而，人類有朝一日可能實現“智能爆炸”的想法在烏拉姆的描述之前就有一些先例。例如，加州大學伯克利分校的 Mahendra Prasad 認為 18 世紀數學家 Nicolas de Condorcet 做出了第一個有記錄的預測，並為其創建了第一個模型。
在他的文章《人類思想進步的曆史圖景：第十紀元》（1794 年）中，德孔多塞表達了知識獲取、技術發展和人類道德進步是如何加速的：
“如果……這些自然的[人類]能力本身和這個[人體]組織也可以得到改善，那麽確定性會有多大，我們希望的計劃有多大？……醫療實踐的改善。 .. 會隨著理性的進步而變得更有效...
“[我們]肯定會相信人類的平均壽命會永遠增加……難道我們不能把[我們的]希望[完美]擴展到智力和道德能力嗎？……教育是不可能的嗎？ ，在完善這些品質的同時，是否會影響、修改和完善[物理]組織？”
另一位先驅是英國數學家歐文·約翰·古德，他在二戰期間與艾倫·圖靈一起在布萊切利公園工作。 1965 年，他寫了一篇題為“關於第一台超智能機器的推測”的文章，他認為比人工智能更聰明的人可以在稱為“子組裝理論”的持續過程中創造出更聰明的人工智能。
1965 年，美國工程師戈登·摩爾指出，集成電路 (IC) 上的晶體管數量預計每年都會增加一倍（後來更新為大約每兩年一次）。這後來被稱為“摩爾定律”，用於描述 20 世紀下半葉計算的指數性質。它也與奇點有關，以及為什麽“智能爆炸”是不可避免的。
1983 年，Vernor Vinge 在 Omni 雜誌的一篇專欄文章中推廣了這一理論，他認為快速自我改進的 AI 最終會達到“某種奇點”，超出這一點，現實將難以預測。也是在這裏，首次與黑洞進行了比較：
“我們很快就會創造出比我們自己更偉大的智能。當這種情況發生時，人類曆史將達到一種奇點，一種像黑洞中心打結的時空一樣難以穿透的智力轉變，世界將遠去超出我們的理解。我相信，這種奇點已經困擾了許多科幻作家。它使得對星際未來的現實推斷變得不可能。要寫一個以一個多世紀為背景的故事，一個人需要在兩者之間進行核戰爭.. . 以便世界保持可理解性。”
如何以及何時實現？
Vinge 在 1993 年的一篇題為“即將到來的技術奇點：如何在後人類時代生存”的文章中進一步普及了技術奇點。除了重申概念的本質外，Vinge 還列出了該事件如何發生的四種可能情況。他們包括：
超級智能計算機：這個場景基於人類最終可能會開發出具有“意識”的計算機的想法。 Vinge 說，如果這樣的事情是可能的，那麽毫無疑問，比人類更先進的人工智能可能會自然產生。
網絡：在這種情況下，大型計算機網絡及其各自的用戶將共同構成超人智能。
心機接口：Vinge 還提出了一個場景，人類智能可以與計算結合以增強他們的智能，從而產生超人的智能。
引導進化：Vinge 說，生物科學也有可能發展到提供一種提高人類自然智力的手段的地步。
但也許這個概念最著名的支持者是著名的發明家和未來學家 Ray Kurzweil。他 2005 年出版的著作《奇點臨近：當人類超越生物學》可能是他最著名的著作，它擴展了早期著作中提出的思想，最著名的是他的“加速回報定律”。
該定律本質上是摩爾定律的概括，並指出技術係統的增長率隨時間呈指數增長。他進一步引用了計算、遺傳學、納米技術和人工智能等技術的指數增長將如何達到頂峰並引領超級智能的新時代。
“奇點將使我們超越生物體和大腦的這些限製，”庫茲韋爾寫道。 “在後奇點時代，人和機器之間將沒有區別。”他進一步預測奇點將在 2045 年發生，因為這是計算機智能顯著超過人類腦力總和的最早時間點。
為了看到這些正在發揮作用的趨勢，未來主義者和投機性思想家通常會舉出人類曆史上重大創新的例子，通常關注使我們以指數方式傳遞和消費信息的方式更快的技術。在所有情況下，目的是展示創新之間的時間間隔如何越來越短。
加速變革
一種重要的思想流派與共享數據的方式有關，也稱為“消息壓縮”。這裏的基本思想是，人類創建和共享的數據的漸進量可以作為時間的表達來衡量，即媒體允許我們接觸的人數。
例如，洞穴壁畫是已知最早的間接（即非語言）交流方式，其中一些最早可以追溯到大約 10 年前。四萬年前。這些畫作——可能是曆史記錄、祖先故事或當時已知星座的最早目錄——可能隻有製作它們的大家庭社區的成員才能見證。
下一個重大創新出現在新石器時代 - 約。公元前 9,000 年 - 以類似於物理對象的符號形式（又名象形圖）。大約 5500 年前，這讓位於表意文字，書寫傳達概念而不是對象的符號。
然後是大約 3,000 年前的第一個字母，例如腓尼基文字。隨之而來的是大規模印刷技術，從木版印刷（約 3 世紀）開始，到 11 世紀出現活字印刷，到 15 世紀出現印刷機。 1792 年出現了電報，這使得從地球的一個地方到另一個地方的打字通信成為可能。
然後是 1876 年亞曆山大·格雷厄姆·貝爾的電話，它允許遠距離的聽覺信息傳遞。隨後是世紀之交的無線電通信，使音頻通信更進一步。到 1920 年代中期，電影和電視（結合音頻和視頻信息）的傳輸在短時間內隨之而來。
到 1931 年，麻省理工學院的 H.L. Hazen 和 Vannevar Bush 建造了微分分析儀 [PDF]，這是有史以來最複雜的模擬計算機。到 1939 年，第一台機電模擬計算機（又名數字計算機）問世。在 1940 年代（和第二次世界大戰），創建了依賴於真空管、數字電子電路、晶體管和存儲程序的計算機。
1950 年代，發明了第一批集成電路，到 1960 年代，個人“台式”計算機開始出現。到 1975 年，IBM 發布了第一台移動計算機 (IMB 5100)，到 1980 年發布了第一台“筆記本電腦”。到了千禧年，智能手機的使用和移動計算變得多產，信息技術 (IT) 部門也是如此。
從正確的角度來看，預測分析師經常將現代智能手機技術與阿波羅時代的計算機進行比較。而在 1969 年至 1972 年間引導宇航員六次登月的 NASA 計算機具有相當於 73,728 字節的工作記憶。與此同時，今天的智能手機擁有高達 32GB 的內存，大約是阿波羅製導計算機工作內存的 430,000 倍。
技術奇點：即將到來的“智能爆炸”
資料來源：Hilbert, M. (2020)
NASA 還對人類取得的進步進行了權衡，表明航海者 1 號和 2 號航天器 - 探索了外行星並成為第一個到達星際空間的人造物體 - 每個擁有 69.63 KB 的內存。相比之下，Apple 的 iPhone 5（於 2012 年首次發布）的內存高達 16 GB，大約大 240,000。
簡而言之，今天的人們消費和產生的數據量絕對會讓兩代人前還活著的人感到震驚。按照這個速度，從現在起隻有一代人的成年人可能生活在一個對我們今天來說幾乎是深不可測的世界中。
“信息時代”與“大數據”
另一個表明奇點即將到來的關鍵指標是信息技術和信息生產隨著時間的推移而大幅增加的方式。隨著計算、網絡、互聯網和無線技術的進步，與無數其他人連接的人數在很短的時間內呈指數級增長。
1990 年至 2016 年間，全球互聯網接入人數從 260 萬增加到 34.08 億（乘數為 1310）。
根據聯合國國際電信聯盟 (ITU) 2018 年的一份報告，由於移動設備和衛星互聯網服務的增長，到 2050 年，全球 90% 的人口將能夠使用寬帶互聯網服務。那是 87.6 億人，比現在可以訪問的 40 億人（約占全球人口的一半）增加了 220%。
另一個關鍵指標是隨時間生成的數據量。在 2010 年的技術會議期間，穀歌首席執行官埃裏克施密特聲稱人類每兩天創造的信息量與文明誕生之初（大約 6000 年前）和 2003 年之間的信息量一樣多。他估計，這大約是 5 艾字節(EB) 數據，或五五億 (1018) 個字節。
到 2010 年代，人類進入了所謂的“Zettabyte 時代”，其中生成的數據量等於六億 (1021) 字節。根據 Statista 的數據，2010 年至 2020 年間創建的數據量從 2 ZB 增長到 64.2 ZB——每年增長 32%——預計到 2025 年將達到 181 ZB——每年增長 36%。
同樣，隨著時間的推移保存的數據量也以驚人的速度增加。從 2005 年到 2020 年，全球存儲容量從 200 EB 數據增長到 6.7 ZB（平均每年 223%）。以 19.2% 的複合年增長率估計，到 2025 年，全球存儲容量預計將達到 16.12 ZB。
什麽會超過呢？鑒於目前的進展速度，人類很可能在 2050 年之前進入“Yottabyte 時代”（1024 字節）。但考慮到利率本身會加速，這一裏程碑比本世紀中葉更早出現並非不可能。
所有這些數據構成了人類知識的基礎，隨著越來越多的人連接到高速互聯網連接並發現這些驚人數量的數據基本上觸手可及（或可能直接連接到他們的大腦），這個集體圖書館可以提供服務作為各種技術奇點的發射台。
人工智能
通往奇點的另一個預期途徑是高級人工智能 (AI) 的發展。這個概念最初是由著名數學家和密碼破譯者艾倫·特寧（Alan Turning）推廣的，他提出了“機器能思考嗎？”的問題。在他 1950 年的論文“計算機與智能”中。也是在這篇論文中，他設計了他著名的“模仿遊戲”（又名“圖靈測試”）。
Turning 寫道，這款遊戲將包括一個人類審訊者，試圖區分計算機和人類，後者會以文本形式回答一係列問題。正如圖靈解釋的那樣：
“我們現在問這樣一個問題，‘當一台機器在這個遊戲中扮演 AI 的角色時會發生什麽？’像這樣玩遊戲時，審訊者會不會像在男人和女人之間玩遊戲時那樣經常做出錯誤的決定？這些問題取代了我們原來的‘機器能思考嗎？’”
Stuart Russell教授（加州大學伯克利分校）和Peter Norvig（穀歌研究總監）出版了一本關於人工智能研究的領先教科書，題為人工智能：一種現代方法。在其中，他們區分了像人類一樣思考和行動的計算機係統與那些會理性思考和行動的計算機係統。
近幾十年來，由於超級計算機、機器智能、深度學習和其他能夠處理信息和識別模式的應用程序，這種區別變得更加明顯。 “會思考的機器”的進步與計算的進步保持同步，並導致程序在某些方麵遠遠超過人類智能。
1959 年，隨著通用問題求解器 (GPS) 的發明，開發 AI 的努力正式開始，這是由蘭德公司的經濟學家和認知心理學家赫伯特·A·西蒙、J.C.肖和艾倫·紐厄爾創建的計算機程序。他們希望，這個程序將導致“通用問題解決機器”的開發。
1957 年，第一台旨在模擬神經網絡的計算機（Mark 1 感知器）由美國心理學家弗蘭克·羅森布拉特 (Frank Rosenblatt) 製造。該機器展示了通過反複試驗學習的能力，為 Rosenblatt 贏得了“深度學習之父”的非正式榮譽。
技術
在 1980 年代，“誤差的反向傳播”算法（簡稱反向傳播）與神經網絡相結合，使它們能夠更快地工作並解決以前認為無法解決的問題。這些成為所有未來神經網絡和人工智能應用的中流砥柱。
1996 年，IBM 推出了 Deep Blue，這是一款國際象棋計算機，在一係列比賽和複賽中擊敗了世界國際象棋冠軍加裏·卡斯帕羅夫 (Garry Kasparov)。到 2008 年，IBM 的 DeepQA 項目完成了 Watson 的工作，Watson 是一款問答超級計算機，將繼續在 Jeopardy! 上競爭（並獲勝），並在 2011 年擊敗冠軍 Ken Jennings 和 Brad Rutter。
2014 年，穀歌收購了英國科技公司 DeepMind，該公司將機器學習和神經科學相結合，創建通用學習算法。 2016 年，該公司的 AlphaGo 程序在五場比賽中擊敗了世界圍棋冠軍 (李世乭)。
2015 年，中國公司百度發布了一篇論文，解釋了他們的 Minwa 超級計算機如何創造圖像識別新記錄，打破穀歌之前的記錄。這是通過一種稱為卷積神經網絡的新型深度學習實現的，它可以比普通人更準確地識別和分類圖像。
今天，政府、研究機構和私營部門經常使用超級計算機和機器學習來進行“數據挖掘”——在大數據集中尋找異常、模式和相關性。這對於處理每天創建的不斷增長的信息量和預測結果是必要的。
1985 年，算法信息理論的發明者 Ray J. Solomonoff 教授撰寫了一篇文章，詳細說明了他認為在人工智能完全實現之前需要實現的七個發展裏程碑。他們是：
人工智能作為一個領域的創建，人類問題解決的研究（又名“認知心理學”），以及大型並行計算機（類似於人腦）的發展。
解決問題的一般理論，包括機器學習、信息處理和存儲、實現方法和其他新概念。
開發能夠自我改進的機器。
一台可以讀取幾乎任何數據集合並將大部分材料合並到其數據庫中的計算機。
在其設計領域（即數學、科學、工業應用等）中具有接近人類的一般問題解決能力的機器
一台容量接近計算機科學界的機器。
一台容量是計算機科學界數倍的機器。
簡而言之，Solomonoff 認為人工智能的發展將包括構建能夠模仿人類大腦功能（學習、信息保留、解決問題、自我提升等）並最終超越它們的機器。在撰寫本文時，他斷言除了首先之外的所有工作仍然需要完成。
根據這個路線圖，我們現在已經接近實現真正的人工智能了，因為現代超級計算機在許多方麵都能夠勝過人類，但不是所有方麵——尤其是在抽象或直覺推理方麵。盡管如此，我們離機器智能完全超越人類的那一天越來越近了。
當這種情況發生時，科學研究和開發將加速，帶來大膽的新可能性。如果這些機器的任務是創造更高級的自己，一旦它們達到人類水平的通用智能，它們可能沒有理由停止這樣做，並且可以繼續改進自己，直到你擁有庫茨韋爾所說的人工智能超級智能“起飛” ”，一個明確的拐點，標誌著技術的奇點。
—
但是，當然，計算、信息生產以及進步似乎總是更快的方式隻是可能將我們引向所謂的奇點的一小部分途徑。在第二部分，我們將研究納米技術和醫療技術的進步如何引導我們走向未來難以預測的時間點。
我們還將研究這種預測的革命將如何發生——快速開始或逐漸發生——以及可能產生的影響。最後但並非最不重要的一點是，我們將看看批評者和懷疑者對此的看法，以及它如何與其他似乎永遠不會實現的預測相疊加。
