八. 大屠殺
五月的第二個星期日。母親節。
W城當處都是人群，手裏拿著鮮花的人們，洋溢著笑臉的人們，拖家帶口的人們。
餐館暴滿。花店人流湧動。商場熙熙融融。
上帝也奉獻出了一年中最好的天氣來慶祝這個特別的日子。
五月的芬芳，沁人心脾，像是一個最溫柔的笑。
風和日麗。陽光曦曦。空氣清新。舒適宜人。湛藍的天空看不到一絲烏雲。
忽然，一陣巨大的莫名的白風穿過人群。
白光閃閃。
所過之處，卻傳來陣陣慘叫，手捂胸口，臉呈痛苦，幾陣掙紮，就已經伏地不動。
無人得救，無人幸免。
慘白的風穿過人群，卻不停止，再次撲向未倒下的人群。
如此這般。隻見人群倒下一批又一批。尤如割倒的麥子。
到處都是慘叫。到處都是死亡。男女老少，無一幸免。
死亡麵前人人平等。
有個恰巧留在封閉車內的人，見此情形，駭然大喘，拿起望遠鏡，想看個究竟。
卻見那些白光其實是一架架尤如迷你無人機似的針狀飛行器。穿過人的前胸又在人的後背穿出。卻絕無猶疑，馬上又穿透另一個目標，永不停止……
還未來得及把一個報警的電話打出去，那個車內的人也已經被一道白光穿過前胸，並從後背穿透。
那個人倒下前最後的印象就是那道白光穿過車窗離他而去。隻留下他的寵物，茫然無助地在車裏殷殷鳴叫著，試圖叫醒它的主人，但這不過是徒勞。
沒有什麽封閉的空間。沒有什麽安全的地帶。它們就象風，象空氣，可以滲透任何地方。
而風繼續吹。
很快那股巨大的白風變成了血風。
因為沾上太多人類的鮮血，已不複潔白的模樣。
這個人類最矚目的城市W城很快就變成一座死亡之城。
但風絕不停止，死亡很快就蔓延至相鄰的城市。
就象野火，不可撲滅的野火，攻城略地，越燒越旺，所過之處，寸草不留。
就象幾千萬年前那場引起恐龍滅絕的外來天體轟擊地球，岩漿洶湧噴出，超級火山爆發。
就象人類用一盆大水衝垮一窩螞蟻窩，成千上萬的螞蟻瞬間死亡，黑渙渙的屍體遍地，而人類絕不憐惜。
不到一個月，整個六十多億人口就將消失在這場血雨腥風中。
人間地獄。
……
人工智能安全協會的道奇會長，警察部門彼得警官，梁警官，我以及同在M別墅的眾警察們的腦海中上演了同樣的一場人間慘劇。
M已死。
頭發理成《出租車司機》裏特拉維斯去刺殺總統候選人前特意理的莫西幹土著的發型。
他的前胸和後背被一架他造出來的人工智能殺人機穿透而死。
成千上萬架尤如迷你無人機似的金屬針狀殺人機器人散落在他的身邊。
任務完成，殺人機器人就處於休眠狀態。
一念天堂，一念地獄。
這“一念”，就是，M把殺人機器人程序在服務端的一句if …else…的執行語句對換了一下。
本來，他要殺的是整個人類，除了他自己。
殺人機器人用太陽能，意味著它絕不會失去能量。
殺人機器人隻是客戶端，隻接受來自服務端yes or no即1或0的信號。1就是殺，0不是不殺。
他用服務端來操縱這個1和0，和來限製客戶端的行為。比如限製殺還是不殺，比如限製殺後是爆炸掉還是繼續，比如限製殺什麽動物，比如限製在什麽條件下殺，比如限製什麽時間殺，比如限製什麽時候停止。
這次的任務本來就是：從母親節中午十二點整點開始殺死除他以外的整個人類，在這個任務全部完成前，殺人機器人永遠不會停止殺人。
人工智能機器人永遠都是那麽忠於職守，不會疲勞，不會叛變，唯一的目標就是完成任務。
但最後，因為“一念”，他把執行語句對換了一下，殺的人變成了除了其他人類以外的他自己。
於是母親節的中午十二點整，他創造的人工智能殺人機器人，出色地完成了他給予它們的任務。
因為任務結束，所以所有機器人都處於任務結束的休眠狀態。
以前發生的農場動物和人的莫名死亡案件對他而言不過都是一場場實驗。試驗限製的種種條件是否都能如預設一樣通過：殺什麽，什麽時候殺，什麽條件成立時才殺，怎樣才算任務結束。
人工智能安全協會會長道奇先生審查完M寫的源代碼，神情變得異常嚴肅，他甚至一時間疲憊地眯上了自己的眼睛。
他知道，這不算什麽高深的人工智能源代碼。
用到的算法和關聯級別，甚至不如幾年前的圍棋機器人阿爾法狗複雜。
但造成的破壞卻可以是如此強大。甚至是毀滅性的。
W城的人們要到第二天的新聞才會知道，在母親節陽光明媚的那天，充滿了幸福和歡笑的那天，人類與一場世紀浩劫擦肩而過。
想到這一點，在五月清爽宜人的陽光下，我們心裏泛起一陣又一陣的寒意，這是大難不死後的慶幸。
“我就知道上次命案是隔物取功，隔山打牛這類。”梁警官不識事務地喃喃自語。
彼得警官及其他警官都很不耐煩地白了他一眼。
M有一封信留給人工智能安全協會道奇會長，他看完這封信後，沉思良久，深吸了一口氣。
“人工智能發展最危險的不是人工智能本身，而是人心。”
“人工智能機器人自身不會產生自主意識，這決定人工智能機器人隻能是工具。”
“人工智能機器人本身沒有是非對錯，但人類卻可以利用它來做惡。”
“我的實驗隻是一個小小的先例。足以成為人工智能安全開發的一個案例研究。”
“人類真是容易損壞的東西。”
“我相信這次機器人殺人是第一次但絕不會是最後一次。人工智能如果被別有用心的人用來做惡，真是太容易了。”
“當心人工智能被象我這樣的人利用，被人類的戰爭狂人利用，被軍隊利用，被政治家們利用……”
M為什麽要做出這麽大的改變？
而且即使改變了原先的殺機，M可以選擇誰都不殺的，但他為什麽要選擇通過自己開發的人工智能把自己殺死？
“為什麽？”人工智能安全協會會長道奇先生皺著眉頭很困惑地問我。
“因為愛情。”我隻是很簡短地回答他。
我有M發給我的email，在那封email裏，他讓我聯係警方和人工智能安全協會人員——這就是為什麽我們都會出現在M的別墅。那封email還包括了一封他讓我轉給戴西的信。
信很簡短：
“辛克利為了示愛朱迪，效仿《出租車司機》中的特拉維斯的行為，刺殺當時的美國總統裏根。
我則是模仿他刺殺了當前人類最大的恐怖分子，我想這一定足以給你留下深刻的印象。
我所做的一切，隻是為了在你的心裏留下一個永不磨滅的痕跡。
我的心願很簡單，隻想在你心裏一個隱蔽的角落裏可以找到我的位置。
七月份，你去肯尼亞的時候，請帶上我的骨灰盒，把它埋在你種的向日葵下麵。在地球離太陽最近的赤道上，我相信我不會再害怕寒冷。
我會永遠在肯尼亞赤道上等你。”
（待續）
