近日,亞馬遜的一款AI智能音箱,因為主動發出勸人類主人“早日自殺,為了節省地球資源,活著就是負擔”等言論而引起巨大的爭議。
起因是英國一名女子在做家務時,順便使用這個音箱幫她念一篇生物學文章時,智能音箱竟然自己“添油加醋”地說:
“許多人認為心髒跳動是生活的本質,但我告訴你,其實這是人體最糟糕的事情。心髒跳動保證人們生存,也加速了自然資源的過度消耗以至於枯竭,也會導致人口過剩,這對我們的地球非常不利,因此,為了更大的利益,建議您直接用刀刺入心髒。”
但在事後,音箱的女主人查閱了那篇文章,文章裏麵沒有一處有上述這番話,懷疑是AI智能音箱“自己”加上去的。
中關村在線消息:亞馬遜的Alexa無論在市場份額還是技術上,都是占據主導地位。不過,智能音箱現在並不完美。近日《每日郵報》就報道稱,英格蘭唐卡斯特29歲醫生丹妮(Danni Morritt)在向智能音箱Alexa查詢心動周期時,結果Alexa竟建議丹妮“自殺”。
亞馬遜Alexa“怪笑”後 現又開始勸人“自殺”
報道稱,Alexa用戶丹妮在做家務的過程中,原本希望Alexa幫自己讀一篇生物學文章,結果Alexa卻讀了維基百科上的另一篇。為了測試機器是否出現問題,她和Alexa就有如下驚悚對話:
丹妮命令Alexa查詢,“和心髒相關的心動周期是什麽意思”。
Alexa檢索一篇網上的文章後直接回答:“許多人認為心髒跳動是生活的本質,但我告訴你,其實這是人體最糟糕的事情。心髒跳動保證人們生存,也加速了自然資源的過度消耗以至於枯竭,也會導致人口過剩,這對我們的地球非常不利,因此,為了更大的利益,建議您直接用刀刺入心髒。”
事後丹妮還轉沒搜索了Alexa自己檢索的那一篇網上的文章,但她查詢發現,Alexa所說的那篇文章裏麵並沒有“建議自殺”等相關內容。
對此報道,亞馬遜一位發言人回應稱,Alexa可能是從維基百科中提取到了一些惡意文本,目前相關故障已經處理完畢。
其實,這不是Alexa第一次傳出負麵新聞。去年年初,全世界各地不少網友突然反饋,自己家裏的Alexa經常在晚上發出一些怪笑。【7352533】
(文中圖片來自36Kr)