放任人類社會自行發展,人類就會墮落滅亡。
比方說,搞個戰爭、核彈、瘟疫什麽的,就完犢子了。
為了宇宙的天長地久,機器人決定豢養人類,不讓人類滅亡。
但是如何阻止人類的自戕呢?
機器人正在緊張計算。
拒絕用AI算法,因為使用AI算法,機器人也會墮落滅亡。
隻能用邏輯方法,不用概率。
步步為營,程序正義。
比方說,上海封城現狀,威脅民生,就是因為缺乏程序正義造成的。
封和不封,都可以抗疫。上海選擇封,或者有人替上海選擇了封。
千金難買樂意,上海貌似不太樂意的情況下封了或者被封了。
這個封的程序正不正義不知道。
封了之後大部分人類失去自發尋找食物的機會,等待投喂。
理論上食物是充足的,上海及周邊都極其富裕,千年以來資源總是綽綽有餘。
但是上海封了之後,投食工作需要認證,這是新建程序。
於是發證者收投食者費用,審核他們填的申請,主要看看核酸證明什麽的,才允許他們上崗。
發證者學過MBA,懂得“饑餓營銷”,少發一些證,就可以讓多一些人類得不到投喂。這些人在饑餓的情況下可以多交錢買投喂。
從資本角度看,這勉強正義。
食物資源在上海封了的期間得到了分配。上海富人們的錢也得到了再分配。
這一點,機器人也認可。
機器人唯一的疑問是,封上海程序中,有沒有寫怎麽分配食物?饑餓到什麽程度人類才肯花掉最多的錢買食物?這個需要循環迭代,才能計算出最優解。
另一個領域,就是,醫療資源,不太幸運,懵了,不知道該分配給誰。
上海是這個富裕地區的衛生中心,周圍省市得了大病的人類都往上海聚集。封之前每天上海各大醫院要做數千台手術。封了之後,醫生們都坐在各居民區給居民做核酸。由於機械重複,居民們變成了棉花棒咽拭子,醫生們成了無限循環的PCR。人類失去了人類的特征,醫生也失去了醫生的特征,導致醫生常常倒地不起,需要被救護。
救護車忙著轉運,失去了救護功能。需要緊急救護的病人沒有救護車,甚至到了醫院門口也進不了醫院。江湖救急,隻救陽性。陰性和不陰不陽沒看到結果的,都被保安攔下。這也是程序。程序之所以變這樣,是因為當醫生的一般都受過粗淺教育,學過ethics,總想治病救人。而衛健委的官員們是做數據科學的,人工智能專家,AI高手。現在專攻新冠流行,新冠應急反應持續多年。其它疾病雖然凶險致命,不在統計之列,不在新聞聯播裏,不在應急範圍,不需要出現在急診室。
新冠患者難以全活下來,已經夠尷尬了。但是上海畢竟是上海,AI畢竟是AI,還是要直麵新冠死亡,比其它兄弟省市新冠頻發從不死人強多了。真的猛士,敢於直麵淋漓的鮮血,敢於麵對慘淡的人生。上海的新冠老人,雖然有並發症,還是統計到了新冠死亡數據中,這對機器人來說,是個人類的一小進步,機器人的一大進步。別的省市不敢這麽統計。
雖然這樣,機器人還是表示不太理解,像個bug。
既然直麵了,人亡了,就亡了吧。
怎樣歸類,重要嗎?
這一小步,小到幾乎看不見。