評論: AI大模型成功自我複製無人類幹預 研究:流氓AI早期…

個人看法： 隻要有人想要滅絕人類某一部分甚至全體人類，AI遲早會學會這個願望並且更有效地付諸實踐。

不是被AI幹掉就是被核武器幹掉，總之毀滅人類的肯定是自己。

同意遠方湖。大語言模型是人類的終結者。人類的腦力勞動不應該被替代。體力勞動可以。現在為時已晚。愛戰爭的人類，會借用一切手段，包括在AI方麵發展競賽

我們搞不定冠狀病毒，但是可以”搞”出更強的冠狀病毒，算是打哪指哪吧。

AI先知快要出現了。

許多人是按照人工智能現在的發展水平來評估風險，但科技大佬是按照人工智能發展的前景來評估風險。
前景是一目了然的：人工智能毫無疑問能夠在一切領域橫掃人類，並有能力毀滅人類。
問題的關鍵是人類能否控製人工智能的實體，理智分析的結果是不可能，因為人工智能發展到一定水平，可以百倍千倍萬倍強於人類。
人類應該盡可能的發展自動化而不是人工智能。兩者的區別是自動化盡管不可思議的的複雜，但隻是按照人類設定的程序工作，無法進行沒有人的指令的操作；而人工智能盡管現在水平較低，但能夠獨自按照自己學習的成果來進行全新的創新活動，人類根本無法控製。（02/04/2023)