機器智能 18. 機器智能研究的倫理邊界 （轉）

機器智能研究的倫理邊界

我在上一篇提出了機器智能有可能超越人類，但在這篇我要特別強調的是為了智能機器與人類更好地和平相處，我們應該給機器智能的研究劃定一條紅線，因為越過了這條紅線，智能機器就會不是幫助人類提高生活質量了，而是以自“我”為中心了。

大家是否注意到，我在討論智能時回避了一個非常特別的概念那就是“意識”。在很多人看來意識是一個與智慧密切相關的概念，怎麽就漏了呢？我承認意識確實很特別、也很重要，但並不是不可或缺，甚至站在人類的立場上，讓機器智能具有意識，可能還是有害的，是應該禁止的。在講這個問題之前。讓我們先來簡單地認識一下何謂意識。

其實意識是一個非常特殊的思維活動，是一個與“我”這個概念相關聯的思維活動。因為有了“我”，然後我們的思維與“我”相連時就會體現出自我性，自主性、也就產生了所謂的“自我意識”，這是所有意識的基礎。至於為什麽會產生這樣的“我”的概念，究其原因是因為任何係統都有邊界，都會內外有別。而對於我們人類及哺乳類動物而言，由於養育後代的哺乳行為是一個資源有限的專向性行為，這必然使得在哺乳過程及後續的養育過程中需區分出“我”的哺育範圍，於是“我”的概念就產生了，意識這種與“我”相關的思維活動也隨之孕育而生。

大家是否注意到我們每個人都沒有幼兒時的記憶，其原因是因為當時還沒有“我”的概念，此時就沒有意識，也不會有關於“我”的記憶了。隻有當產生了“我”的概念之後，才會有意識意義上的記憶，才會有自我。然後有了“我”之後，我們的所有的概念與思考都會與“我”相關聯，此時，我們的思維就會不自覺地與自身利益權衡相關聯了，如會產生：“我”的擁有、“我”的思考、"我"的利益等，這便產生了另一個重要的概念“私”，而當“私”產生後，便有了排他性。這樣的一種意識思維活動對於我們人類而言是好還是壞，我曾在過往的係列中，專門寫過兩篇論《係統邊界 -- 關於“私”》《係統整合 -- 關於“公”》予以闡述，我認為“私”雖然極大地促進了人類的發展，但是係統的的演化歸根到底還是協同演化，還是“公”在發揮著作用，私”還是應該有所約束，而不能無限膨脹。

以上簡單地介紹了意識，以及意識的產生及對人類的影響。可以看出意識並不是智能活動必不可少的要素。在哺乳類動物沒有誕生之前，很多生物並沒有“我”的概念，並不會產生意識。但那時世間萬物已經在不斷地演化，而在這樣的演化過程中也處處體現了它們對自然世界的自適應性與自組織性，我們前文提及的所有智能活動幾乎也在各種沒有意識的動物（植物）身上有所體現，也就是說沒有意識並不妨礙智能活動的展開。雖然從人類曆史來看，意識的產生對智能的快速提升有極大的幫助，但與此同時產生的自我性（私心），也使得人性從根本上具有排他性。這也是我們目前的世界紛爭不斷，乃至產生大量殺戮的根本原因。這一些就我們人類而言，已經是無法回避和改變的現實了。但對於機器智能而言，至少目前是應該極力避免的。

也就是說，當機器智能有了“自我意識”就必然地會維護它的“自我性”，也就會產生排他性，此時非它族類的人類就會麵臨機器智能的終極挑戰。所以為了規避這樣的挑戰，無論如何將“私”包裝得多麽美妙、我們人類的好奇心有多大，我們都不應該將“私”的概念納入機器智能研究的範圍。雖然從長遠來講，機器智能可能也會在不斷演化過程中，自我湧現出這樣的概念，但至少目前我們在研究工作中還是應該遵循不涉及意識活動 -- 這一倫理邊界。

篇外：
其實任何研究都是應該有倫理邊界的，哪怕是被聖神化的科學研究。因為任何事物的極限都會超出人類能控製的範圍，對於人類而言是具有毀滅性的。例如，任何一種物理化學屬性發展到極致都可以成為殺人武器，對生物研究的極致就是製造病毒，醫學研究的極致就是替換和改造人類，就會給人類生命安全、倫理秩序帶來不可控的災難，所以其他學科早早地就設定了各自領域研究的倫理邊界。同理，應該呼籲在人工智能領域也應該有類似的研究倫理邊界的設定，以免造成不可控的災難發生。
?