歲月靜好
深邃，更古，憧憬，永恒
北京時間1月12日，OpenAI的CEO山姆·奧特曼（Sam Altman）作為嘉賓參與了比爾·蓋茨（Bill Gates）的播客節目《為我解惑》（Unconfuse Me）。兩人的話題覆蓋了人工智能未來的發展前景、對人類社會的潛在影響，以及監管的重要性。
提及AI對人類社會的影響，奧特曼直言，“AI將引發人類曆史上‘最快’的一次技術革命，而人類可能還完全沒有準備好如何應對，也對AI技術的發展速度沒有足夠的預期。”蓋茨也認同奧特曼的觀點，他認為，“AI將迫使我們人類以前所未有的速度適應這次變革。”
人類如何適應AI的快速發展，又如何限製AI帶來的負麵影響，這是目前各國政府及整個科技行業都在努力解決的問題。奧特曼一直強調AI監管的必要性，蓋茨在對話中直接了當地問他，“你到底想要做什麽？”
奧特曼回應說：“我認為我們開始逐漸弄明白，科技將迅速朝著具有十萬或百萬倍GPT-4計算能力的係統發展。如果我們是正確的，這項技術將影響到社會、地緣政治力量的平衡等方方麵麵。”
蓋茨和奧特曼共同提議，建立一個類似於國際原子能機構（IAEA）的全球監管機構，像監管核能發展的方式監督人工智能的發展，確保其安全可控。
對於這件事情的可行性，奧特曼表示：“我覺得這有可能。我之前不太確定，但我2023年去了很多國家，和許多需要參與此事務的國家元首進行了交談，幾乎普遍支持。”
但是，“這不會解決AI的所有問題。”奧特曼也提出警示，不能忽視AI係統的複雜性，“我們仍然會有可能在小規模係統上出錯，在某些情況下，可能會出相當嚴重的問題。但我認為這可以幫助我們應對最大等級的風險。”
蓋茨和奧特曼對人工智能在提高生產力和創造新就業機會方麵的潛力持樂觀態度。他們認為，人工智能將使很多行業提升效率，尤其是類似於“寫代碼”這樣的工作，醫療和教育也將極大的受益於人工智能的發展。然而，人類社會可能並沒有做好準備去應對這場技術變革。
奧特曼對此表示擔憂：“AI將迫使我們以下為蓋茨與奧特曼對話精簡版：
奧特曼是OpenAI的首席執行官，在科技行業有豐富的從業經曆，曾領導過創業孵化器Y Combinator。去年11月份，奧特曼被OpenAI董事會短暫解除了首席執行官的職務，但在員工和外部投資者的支持下得以複職。盡管出現了內部動蕩，但OpenAI團隊的工作效率、樂觀度和積極性都很高。該公司正逐漸走向成熟，並為即將到來的挑戰做準備。
1. 對人工智能的發展和理解
當人工智能聊天機器人ChatGPT首次出現時，就連許多科技大咖都為之驚歎，其中也包括蓋茨。他對奧特曼說：“我非常高興看到你們的工作取得了持續的進展，盡管我之前對這項技術的進步持懷疑態度。ChatGPT的表現讓我大吃一驚。”
蓋茨補充說，讓他驚訝的是，他甚至不明白ChatGPT為何能如此“言之有物”。奧特曼解釋道，它有點兒像人類大腦，我們至今也沒搞清楚哪些神經元在起作用。人們正在努力更好地理解人工智能的“編碼能力”，這可能會顯著提高訓練效率和準確性。
2. 未來兩年的裏程碑
蓋茨問奧特曼：展望未來兩年，你認為會有哪些關鍵的裏程碑？
奧特曼回答說，多模態肯定會成為重要的方向。這意味著大模型將能夠處理文本、圖像和視頻等多種媒體的數據。OpenAI已經發布了支持圖像和音頻輸入、輸出的功能，反響比預期更熱烈。他們將能夠繼續推進這一領域，但最重要的進步可能在於推理能力的提升。目前，GPT-4的推理能力有限，未來需要在這方麵做出更大的突破。
此外，可靠性的提高也是關鍵的裏程碑。如果問GPT-4一個問題一萬次，它應該能夠始終給出最好的答案，而不是有時候好有時候不好。奧特曼表示，他們正在努力提高模型的可靠性。
可定製性和個性化同樣重要。人們希望從GPT-4中獲得不同風格和不同假設集的輸出，因此他們將努力實現這一目標，並讓用戶能夠使用自己的數據來定製模型。了解用戶的能力、偏好和日程安排，以及與其他外部數據源的連接等，都將是重要的改進領域。
奧特曼還稱，我們正處在一個漫長而連續的科技發展曲線上，如今的人工智能係統已經具備了完成任務的能力，這無疑提高了我們的生產力。未來，人工智能將能夠承擔更多目前被認為是人類工作的任務，當然，我們也會因此找到新的、更好的工作機會。
目前我們所見證的技術進步令人興奮不已，但將其置於整個技術發展背景下，至少在未來五到十年，我們仍處於一個非常陡峭的改進曲線上。如今的人工智能模型可能是有史以來最智能的。編碼是目前最讓我們興奮的生產力提升領域之一，它已經被大規模部署和應用。此外，醫療保健和教育也是我們非常關注的領域，它們在技術曲線上也呈現出巨大的潛力。
3. 人工智能監管和社會影響
蓋茨和奧特曼深入探討了人工智能的監管問題，這是全球各國政府都在麵臨的挑戰。長期以來，奧特曼一直強調人工智能監管的必要性，而蓋茨則引導他分享了更具體的觀點。
奧特曼認為，我們可能需要對世界上少數幾個最強大的係統進行監管。他預測技術的快速發展會使係統的計算能力達到GPT-4的10萬倍或100萬倍。
他進一步指出：“如果我們的預測正確，當然實際情況可能並非如此。但如果我們是對的，這項技術將如我們所想般發展，將對社會、地緣政治平衡等諸多方麵產生深遠影響。”
奧特曼還提到，監管核武器的國際原子能機構（IAEA）或許是一個值得借鑒的範例。他建議對這些模型的審核可能與國際原子能機構監管核武係統的方式類似。
他解釋道：“我覺得這是可能的。以前我對此並不確定，但今年我在世界各地進行了廣泛的交流，並與許多國家元首深入探討了這一問題，幾乎得到了所有人的支持。”
然而，奧特曼強調，這並不能解決人工智能帶來的所有問題。他說：“規模小得多的係統仍然可能出現問題，在某些情況下，可能會出現非常嚴重的問題。但我認為這有助於我們應對最主要的那一層風險。”
4. 機器人和藍領工作
蓋茨和奧特曼認為，機器人技術將被視為一個關鍵的發展領域，智能和認知優先於物理。過去的共識是，藍領工作將首先受到人工智能的影響，但事實恰恰相反，創造性工作受到的影響更早。
5. 最常用的應用
蓋茨和奧特曼互相分享了最常用的應用軟件。奧特曼透露，他使用辦公軟件Slack最多，盡管他更希望ChatGPT成為其最常用的軟件。
而蓋茨最常用的應用是Outlook：“我是一個老派的電子郵件愛好者，要麽使用電子郵件，要麽用瀏覽器。當然，我收到的很多新聞都是通過瀏覽器發送的。”
奧特曼對此回應道：“我並不把瀏覽器視為一款應用。相比之下，雖然我很多時候也會使用瀏覽器，但使用Slack的時候似乎更多。我整天都在用Slack。”
6. 音樂偏好
奧特曼喜歡在工作時聽古典音樂，特別是由馬克斯·裏希特（Max Richter）重新創作的《四季》。
7. 高級人工智能的哲學含義
蓋茨和奧特曼都很擔心人工智能在處理複雜任務和決策過程中可能帶來的潛在風險，包括對民主製度的破壞、戰爭的加劇以及或者帶來人與人之間的矛盾等等。
但是問題具有兩麵性，蓋茨和奧特曼都認為，如果能夠利用好這項技術，它也能幫助人類，“人工智能是否能夠幫助我們減少戰爭和兩極分化？”他補充道：“我希望人們能夠解決人類最棘手的問題，例如我們是否能和睦相處。我認為，如果我們認為人工智能可以促進人類之間的和諧相處，那將是非常積極的。”
奧特曼回應道：“我相信這項技術會給我們帶來驚喜。它所能做的事情會讓我們大吃一驚。我們必須找到答案，然後再看。但我非常樂觀。我同意你的看法，那將是巨大的貢獻！”
8. 人工智能的公平性和可訪問性
運行人工智能係統的成本預計將大幅下降，使其更容易為更廣泛的受眾所接受。OpenAI已經大大降低了GPT-3和GPT-4的成本。
但蓋茨在對話中表達了他的擔憂，即人工智能將“迫使我們以前所未有的速度適應這項技術”。奧特曼對此表示認同，他認為人工智能將引發人類曆史上“最快”的技術革命，而我們可能還沒有準備好適應這種速度。
他解釋說：“這就是最令人擔憂的部分。這並不是說我們必須努力適應。人類的適應能力非常強大。我們之前已經經曆了許多重大的技術變革，大多數工作都隨著時間的推移而發生了變化。但這一次，變化的速度將會更快，社會必須適應的速度，以及勞動力市場的變化，這將是迄今為止最快的一次技術革命。”
事實上，已經有人看到了他們的工作受到人工智能的影響。在2023年和2024年裁員的公司中，一些公司暗示或直接表示，他們希望通過人工智能工具提高效率，從而減少員工數量。
奧特曼也曾表達過對人工智能的其他擔憂。去年，他在接受采訪時承認：“最讓我感到焦慮的是一種假設，即我們推出ChatGPT已經做了一些非常糟糕的事情。”
9. 人工智能領域的競爭與合作
OpenAI麵臨著人工智能領域日益激烈的競爭，這既具有挑戰性，又具有激勵作用。奧特曼認為，與微軟的合作有利於擴展人工智能的能力。
10. OpenAI的團隊和成長
OpenAI大約有500名員工，與穀歌和微軟等科技巨頭相比，這個數字依然很少。但由於其使命和從事突破性技術工作，該公司吸引了許多頂尖人才。節目錄製的時候，OpenAI還沒經曆戲劇性的董事會變故，在節目播出前奧特曼對比爾·蓋茨補充說：“這太戲劇性了，那就像我們真正長大的時刻”。比以往任何時候都更快地適應技術的變革。這是最可怕的部分。每一次技術革命都變得更快，這將是迄今為止最快的，勞動力市場將會因為AI而迅速發生改變，但是很多人還沒有做好準備。”
在對話最後部分，奧特曼分享了關於個人和職業成長的見解，他強調設定明確目標並勇於追求自己真正想要的東西的重要性。他認為，找到與個人目標相契合的工作可以產生巨大的影響力，這一理念一直指引著他作為人工智能研究人員的職業生涯。
