人類藥丸？Anthropic為什麽要搞AI不擴散條約？

繃不住了，Anthropic 居然出來號召大夥兒把手頭的 AI 開發停一停。

昨天，他們直接發了篇文章，奉勸大夥兒小心 AI，因為以後，它可能自己就能開發自己，不需要人了。。。

看到這個消息，世超直接攤在桌子上，仿佛看到核彈爆炸 （ bushi。。。

在文章最後，Anthropic 還呼籲大家別卷了，應該搞一套監督大家的機製。

這套機製應該能讓這些牛逼的公司之間互相確認，確認所有人都躺平，而不是在暗地裏偷偷卷著研究 AI。

這個說法可謂是一石激起千層浪，帖子發出來不過半天，瀏覽量就幹到了 1000 多萬。

世超也連忙去 A 社的官網拜讀了一下這份報告，但是看完就發現有點不對味了。

簡單來說，它的確號召慢點開發了，但想讓大家慢點開發不太可能。。。

咱們把它從頭來給大家捋捋。

這篇文章的標題是 “ When AI builds itself ”，當 AI 自我迭代時。

簡單來說，Anthropic 認為 AI 現在已經變的越來越牛逼，牛逼到足以自己給自己做改正，自己給自己做開發。

2025 年 2 月的時候，他們的庫裏 9 成以上的代碼還是靠工程師手搓的，但當 Claude Code 發布以後，截止到今年 5 月，這個比例已經下降到了 2 成。

甚至有 Anthropic 的員工直接利索承認，說自己已經快五個月沒寫過代碼了。

AI 寫的代碼除了數量不斷變多之外，質量也變得越來越高。

下麵這張圖展示了 AI 麵對四種不同難度任務時的完成率，可以看到這幾個月以來，隨著模型能力的不斷提高， AI 完成各種難度任務的成功率也在不斷變高。

即使是那種最難的，沒有標準答案的開放性問題，Claude 也有 70% 左右的概率能把它做完。

而這個概率在去年九月，還是 20% 不到。

從黃色到藍色分別是：特別簡單的任務、常規任務、實質性任務、開放式問題

除此之外，Anthropic 內部的很多人都表示，現在，人類和 Claude 敲的代碼，質量上還是五五開，但一年，隻需要一年後，大局就會被徹底逆轉，Claude 寫出來的代碼質量將全麵超越人類。

莫非，人類真藥丸？

對此，Anthropic 表示我特喵的也不知道，他們幹脆給人類未來規劃了三種結局。

第一種結局是無事發生，假設因為種種原因，今天的 AI 已經發展到頂端了，因為什麽缺卡缺電，缺水缺算法啥的原因，AI 的未來已經嗝屁了。

當然，Anthropic 認為這種未來不太可能發生。

第二種假設則是認為 AI 的發展會繼續量變，但累積不到質變的程度，人跟 AI 一起，造出安全可信的係統。

此時 AI 會承擔大部分重複工作，但審查和指揮權仍然握在人的手裏，隻不過是角色的轉變。看起來屬於是個沒啥大問題的好結局。

第三種就是開頭所擔心的那種了，AI 掌握了足夠強大的創造力，實現了完全的自動化迭代，

模型能力的提升中，算力成了唯一因素，人類或將不再重要。

在這個過程中，AI 可能會變得徹底聽話來幫人類好好幹活，也可能會擺脫人類的限製徹底失控。再往後，就沒人能夠預測了。

所以才有了後麵的呼籲，呼籲大家搞一套能互相監督，全員躺平的探索機製，讓全世界參與到這件事兒中，來確保大家能隨時給 AI 研究來踩一腳刹車。

咋說呢，世超看完的第一時間其實會感覺它說的好像有點道理，但是轉念一想就感覺不對啊。

Anthropic 雖然給大家說了三種可能的未來，但實際上，一是被他們否定的過去，二是咱正經曆的現在，而三，才是 A 社真正表示擔憂的未來。與其說是三種可能，倒不如說是層層鋪墊。

而且整篇文章看下來，很多數據都是他自己定義、自己采集、自己解釋，甚至自己評價的。既是考生又是考官，效果上麽，多少得打點折扣。

再者，這 AI 研發是你說暫停就能暫停的嘛？這玩意又不是核能，搞個 “ 不擴散 ” 條約就能大夥兒一起來監管了。

AI 這種有個數據中心就能幹的活，根本沒啥辦法監管吧？

總不能讓每家公司都互相之間開放所有的數據區，讓大家互相之間能看到自己在拿顯卡幹啥吧？

真要搞這麽透明，建議 Anthropic 先學習一下怎麽開源模型？

不然這種話說出來屬實是沒啥說服力。

而且 Anthropic 這次提建議的時間還很微妙，這家公司的作風可以說一直都是頗有爭議。

做出牛逼模型的公司很多，但是風評能那麽始終如一的就隻有 A 社一家了。

打開 A 社官網，看公司介紹時，你能感覺到它幾乎每個字都在向你強調安全。

你能翻到他們從產品到應用的全套安全管理措施，甚至還有給 Claude 單獨撰寫的安全憲法。

但是這些安全措施真有用嘛？隻能說現實情況要複雜的多。

前幾年的時候，A 社就承諾過，說除非公司提前確保了安全措施準備妥當，否則不會開始訓練新模型。

但很快他們就撤回了這個承諾。。。

在今年 2 月，麵對《時代》周刊的采訪時，他們的首席科學家表示，這種單方麵的承諾並不合理，公司可能考慮放棄。

說白了，安全和發展這倆詞，在矽穀就像是個籮筐，哪裏需要哪裏裝。

當理想主義碰上商業競爭，刺刀見紅，所謂的安全往往也得給季度財報和市場份額讓路。

比如之前瘋狂渲染焦慮的OpenAI奧特曼，最近就悄悄改了口風，之前還說 AI 會取代大部分工作，但最近就改了說法，承認自己之前的判斷有點草率了。

英偉達的老黃就更激進了，他在采訪裏表示，現在的很多言論極其科幻，戲劇化且毫無幫助，不知道為什麽有的 CEO 會想扮演上帝，誇大威脅來嚇唬大夥兒。

咱雖然不知道他在點誰吧，但也能看出，即使都在 AI 最前沿，大家的看法也是不盡相同的。

正所謂屁股決定腦袋，看他們的觀點還得看他們所處的情況。

實際上，最近這一個兩個月，Anthropic 的日子過的算不上特別好。

他們 3 號剛推出的 Claude 4.8 略顯拉垮，再也沒了曾經的斷檔領先之感。

而隔壁的 OpenAI 更是全軍出擊，在編程和圖像生成領域直接兩開花，而且奧特曼天天在網上花式找理由重置 Codex 的額度，直接成了各路開發者心中的超級大善人。

而 Anthropic 這邊，為了能搞到更多的顯卡，更多的算力來做出更強的模型，直接開始選擇了提交 IPO 申請，開始做起了融資上市的準備。

一來一回的，因素越疊越多，就讓這號召看起來也就沒那麽有力了。

看到這，世超想起來今年去 Google I/O 的事了，當時 DeepMind 的 CEO，哈薩比斯在現場告訴大家：

現在我們正站在 AI 奇點時代的山麓。

結果咱還沒往上爬兩步呢，A 社就在前麵把頭扭過來，告訴你山上有風險，攀登需謹慎，為了大家的安全，我們還是一起都別爬了吧。

倒也有點道理，畢竟這些大廠的頂尖研究員肯定能看到更多東西。

但多少像是美麗而無用的廢話。

因為眾所周知，隻要山在那兒，人是一定要登上去看看的。