評論: 致人類滅絕？為何科學家聯署限製？人工智能三階段

出生率那麽低，人的壽命又延長，如果沒有人工智能和人形機器人，將來誰給發養老金？

為什麽加州每年的山火控製不住？ 因為森林裏沒有打出隔離帶。有隔離才有可靠性，才不至於讓局部擴展到全局，牽一發而動全身，星火燎原，連鎖反應，雪崩，係統崩潰。

現在鼓吹的所謂萬物互聯（IOT），將破壞可靠性的隔離原則。如果AI變壞，萬物互聯將為全係統崩潰提供方便條件。

怎麽安慰自己都沒用。GPT4比大多數人聰明是明擺著的現實。

這些科學家並不是為人類，而是為了自己，他們知道美國會把人工隻能用作軍事用途，為了不遺臭萬年，他們要簽名以將來能撇清關係

謝諾夫斯基對人工智能的看法還是基於傳統的觀念，他認為：
“當新技術突然被發現、創造出來時，它可以被用於好的和壞的方麵，會有人將其用於社會的善意，也會有人將其用於不良目的。最壞的情況是什麽？如果壞人使用它，他們能對我們的文明造成真正的傷害嗎？”
實際上人工智能不同於任何以前出現的新技術，最壞的情況也不是壞人使用它。因為壞人也是人，最自私的壞人也希望這個世界上至少有一個年輕漂亮的異性陪伴，還要有一個賣大餅的，不會毀滅人類。
而人工智能是一個擁有人類智能卻不是人類的事物（或生物），當它形成主體意識後，有可能因為某種原因不再願意和人類共存，即使人類接受奴役也不行，這時候就是人類的末日。
現在的問題根本就不是什麽人工智能是否能代替人類，現在的問題是人類將來是否能夠控製人工智能。刻不容緩的就是限製人工智能發展的領域或是限製人工智能接觸全部數據，否則必將大難臨頭。

機械飛升 不如 基因飛升