我在城市的主要交通要道上開車時,有人突然亂穿馬路,嚇得我幾乎是無意識地刹車且把車頭轉向一側,就差那麽一點點就會發生嚴重車禍了。
事後,我驚恐未定,親友們就紛紛議論起來:有人說,你撞了亂穿馬路的人,那是他的錯;如果你轉車撞了別人的車,那是你的錯。也有人說,人命關天,那肯定要避免撞倒行人,你轉車道,不一定撞出人命。
於是乎,我想起了世界上好些城市已經出現的無人駕駛汽車,我不知道它們在我遇到的這種特殊情境是如何決策的呢?
我無法詢問無人駕駛汽車的軟件設計者,但我在以色列曆史學家尤瓦爾· 赫拉利的《今日簡史》一書中看到了他對這個問題的論述。
赫拉利提到了無人駕駛車輛在危急情況下的抉擇問題。他在書中寫道:假如有兩個小孩追球突然衝到一輛自動駕駛汽車的前麵,開著這台車的算法立即完成運算,得出結論:要避免撞到兩個小孩唯一方法是轉向逆行車道,但這可能撞上迎麵而來的卡車。根據算法,這個決策有70%的可能會讓坐在後座上的車主一命歸天。該算法屬於自動駕駛車的“利他款”,為了整體利益,即保護兩個小孩的生命而犧牲主人。如果“自我款”算法的無人駕駛車,遇到緊急情況時, 則會不惜一切保護主人,撞死兩個小孩也在所不惜。
所以說,無人駕駛車的算法完全由編製算法的人們所決定,由這些高手的世界觀、價值觀來編製算法,使用者隻能任其擺布。
如果,隻是如果,我們所坐的無人駕駛汽車的行駛過程中出現快速的“生存還是毀滅”的緊急狀況,那麽,這些車的算法是怎樣的呢?“利他款”還是 “自我款”,它的算法與抉擇是否與我們的世界觀一致呢?
當我們把自己的命運完全交給機器人,由算法來決定我們的生存或死亡時,應該清醒地知道,機器人永遠隻會服從算法的主人,絕不反抗。