Ilya今天宣布成立一家AI安全公司，因為超級智能已經觸手可及

當大家還在說AI其實挺笨的時候，行業領頭人們已經預感的危險。。。

Ilya今天宣布成立一家AI安全公司，因為超級智能已經觸手可及，安全AI迫在眉睫。。。

Ilya預感到普羅米修斯要來了。。。

 

 

《生命3.0》摘錄

“歐米茄團隊建造的人工智能昵稱叫“普羅米修斯”（Prometheus），它一天比一天強大。誠然，它的認知能力在社技能等許多方麵還遠遠落後於人類，但歐米茄團隊竭盡全力讓它在一

個任務上表現超凡，這個任務就是編寫人工智能係統。他們之所以選擇這個計劃，是因為他們相信英國數學家歐文·古德在1965年提出的“智能爆炸” (1)理論。古德說道：

讓我們給“超級智能機器”（ultraintelligent machine）下一個定義，那就是：一台能超越任何人（無論這個人多麽聰明）的所有智力活動的機器。由於設計機器也屬於

這些智力活動中的一種，因此，一台超級智能機器就能設計出更好的機器；那麽，毫無疑問會出現一種“智能爆炸”，到那時，人類的智能會被遠遠甩在後麵。於是，第一台超級智能機

器就會成為人類最後一個發明，隻要它足夠馴良，並告訴人類如何控製它就行。歐米茄團隊認為，隻要他們能讓這個不斷迭代的“自我改善”過程持續下去，那麽最終，這台機器就會變得非常聰明，足以自學其他有用的人類技能。”

 

所有跟帖： 

• 聽著像AI警察。但是誰又能保證警察自身不出問題。 -偶爾短路- ♂ (0 bytes) () 06/19/2024 postreply 20:33:24

• 他和奧特曼分道揚鑣，就是理念上的不同。他看重AI安全第一，奧特曼看重讓子彈飛的更遠。。。 -未完的歌- ♂ (0 bytes) () 06/19/2024 postreply 20:38:07

• 其他警察。 -zuomo- ♀ (0 bytes) () 06/19/2024 postreply 20:56:08

• 非AI的警察早晚會被幹掉。 -偶爾短路- ♂ (0 bytes) () 06/19/2024 postreply 20:59:48

• 世界上有完全不受製於人的人嗎？ AI社會也可以參照這個設計：總有AI 受製於AI。 -zuomo- ♀ (0 bytes) () 06/19/2024 postreply 21:04:17

• 看這趨勢可能會有了。 -偶爾短路- ♂ (0 bytes) () 06/19/2024 postreply 21:09:10

• Ilya和奧特曼鬧的時候，就是奧特曼短暫離開，Ilya貌似獲勝的時候，我就說Ilya應該走，去做AI的相關立法，安全監管 -有個用戶名- ♀ (0 bytes) () 06/19/2024 postreply 20:35:16

• 記得不？。。艾瑪老鐵呀，我剛試圖去找那個老跟貼，我天，您一年發了八萬條主貼呀 -有個用戶名- ♀ (0 bytes) () 06/19/2024 postreply 20:36:40

• 不多，不多，LOL -未完的歌- ♂ (0 bytes) () 06/19/2024 postreply 20:39:04

• 我去睡了，明天見~ -有個用戶名- ♀ (0 bytes) () 06/19/2024 postreply 20:40:37

• 也就是說，你跟了至少七萬貼。 -偶爾短路- ♂ (0 bytes) () 06/19/2024 postreply 20:40:17

• 不多，不多，還可以做得更好！：D -有個用戶名- ♀ (0 bytes) () 06/19/2024 postreply 20:41:09