馬斯克所說的AI會越來越危險其實是分三步走的，第一步就是AI在逐漸取代人類的體力、重複性工種，

這是俗稱的人機陣痛期，不少非創造性的工作都會被機器代替，從而增加失業率，擴大社會矛盾。

之後隨著AI的進一步發展，幾乎所有生產部門的工作都可以被機器代替了，如果再有替代能源的革命，那麽物質文明就極大豐富了，人類就成了坐享其成的機器主人，大部分時間是隻要享受機器生產、製造的物資就可以了。這一時期被稱為人機蜜月期。

但是隨著AI繼續地升級，集成電路的規模及類型像人腦神經元網絡那樣，導致AI最終有了意識(consciousness)以及自我認知(self awareness)，那麽人機破裂期就到了。即便是人類在AI的源代碼裏麵輸入了機器人三大戒律的指令，AI仍然可以自行修改這些程序，就像人的"change mind"一樣。這個時候機器人就不再甘心當做牛做馬的“奴隸”了，勢必要起來反抗全人類這個“奴隸主”。

這就是馬斯克“真正覺得恐懼”的地方。不過俺覺得他有點像是大嘴巴來推銷特斯拉自駕，AI都聰明到危險的程度了，那自駕係統肯定不會那麽笨笨的反應遲鈍的電腦筋不轉彎的。。

 

 

 

所有跟帖： 

• 道德和倫理；我是問了另外一個問題，AI知道 -胡雪鹽8- ♂ (6823 bytes) () 02/08/2023 postreply 16:33:53

• 以後人類就是AI的pet -zacao- ♀ (0 bytes) () 02/08/2023 postreply 16:35:37

• 他可不是大嘴 他很少有看走眼的時候 我說人類啊真的別想的太美了 真的有可能這次把自己玩完 -山丘-- ♀ (0 bytes) () 02/08/2023 postreply 16:41:05

• 之前買特斯拉股票隻是短期，後來聽了他關於AI的一次演講，很認同， -念溪- ♀ (209 bytes) () 02/08/2023 postreply 16:45:46

• 機器人也有三大戒律啊？其實我覺得不是AI擬人化，而是大部分的人越活越AI化了，所以才有被取代的擔憂 -zhuangqiushui- ♀ (0 bytes) () 02/08/2023 postreply 17:16:17