進入日常縫隙處

　　今年3月，勞東燕發現，小區每單元的電梯裏都貼上了通知，要求業主下載一個APP，錄入人臉信息，用於門禁升級。勞東燕是清華的法學教授，從去年起，她發現人臉識別被運用在越來越多的場景——分類安檢的地鐵口，AI換臉的手機遊戲，就連法學院的自動咖啡機也有了人臉支付這一選項。

　　看到通知的那一刻，她意識到，這項技術，已經從高鐵站、飛機場這些公共領域，進入工作地點、生活住所，試圖滲入人們日常生活的每一個縫隙——這在後來被一步步證實。借著疫情防控和智慧小區建設的趨勢，人臉識別係統很快在城市的多個小區迅速推開。2017年，北京住房和城鄉建設委員會啟動智慧小區建設時，早已提出這樣的暢想：“您能想象未來小區沒有門禁卡就能開門，停車共享車位、分時租賃，居家老人實現機器人陪護的生活嗎？”

　　但是，嶄新科技所敘述的振奮人心的故事，同樣也存在被科技打破的風險。一位麻省理工學院計算機科學專業的博士告訴我，通過人像收集與機器學習，黑客不僅能將你的臉替換至色情視頻，也可以用“對抗攻擊”（Adversarial attack）技術迷惑機器學習模型，代替你進入高鐵站，你工作的單位，甚至是你的家。

　　生物數據，包括指紋，一直存在泄露和被偽造的風險，但隨著機器學習技術的發展以及人臉識別大規模應用，人臉信息變得更為敏感。理論上來說，“你在社交媒體上公開的所有照片，都可能成為被利用的生物信息”。

　　另一些事實證明，儲存和維護數據的係統並沒有那麽強大。2018年7月，浙江紹興一名叫張富的大專畢業生，利用非法購買的公民個人身份信息，將相關公民的照片製成3D頭像，通過支付寶人臉識別認證。在他被查獲的電腦裏，警方發現了2000萬條公民個人信息。2019年，18歲、初中文化的田某，通過抓取、攔截、保存銀行係統下發的人臉識別身份信息數據包，在一個手機銀行APP內使用虛假身份信息成功注冊了賬戶。

　　勞東燕知道這項技術的隱憂。她將收集到的材料發在了一個兩百多人的小區微信群中。一位關心此事的居民，又將她拉進了接近500人的小區業主群。在那裏，她發的材料獲得更多共鳴，許多業主表達了對風險的擔憂。此前，業主們主要的不滿是：“幹嘛要收集房產證信息？”


▲ 杭州居民戴口罩刷臉進小區，該係統在居民戴著口罩的情況下，也可以精準識別。圖 / 視覺中國

　　“掙紮”

　　3月15日，勞東燕寫好詳細的法律意見，指出小區的收集行為與現行法律框架相違背。一式兩份，寄給物業和居委會。郵寄是她特意選擇的方式——通過快遞寄送，對方一旦簽收，就能代表送達。

　　幾天後的一個傍晚，街道辦主任給她打電話，邀請她一起討論。在場的還有居委會和物業的工作人員。勞東燕察覺到，街道辦的工作人員更關注法律風險。當她提醒“單方通知不代表同意，不經同意就獲取，在刑法上就會界定為非法獲取”，他們問，應該如何規避這樣的風險。

　　而勞東燕最擔心的是數據風險。她無法想象“物業有何動力維護和保護這個數據係統”。她問：“數據由誰保管？怎麽保護？”

　　對方給出三種方案：存放在物業的局域網，交給便民服務中心，公安部門也可以保管。那時，已經有居民錄入人臉信息，但存放方案始終未有定論。這些方案本身也反映了國內個人信息保護的現狀——在使用和管理數據上，公權力和商業機構間並沒有嚴格界限。這些加劇了勞東燕的擔憂。

　　街道辦主任試圖勸服勞東燕。先用“便捷”。在他們的敘述中，因為每個單元的門禁都壞了，街道幫大家免費更新人臉門禁係統，相當於給小區居民提供福利。“你看使用多便利呀，一刷臉就行了。”勞東燕答，“刷臉省的幾秒鍾，對我沒有多大的價值。”

　　在場的業委會主任則以“房價”為談判籌碼：“我們小區管理好了，房價也會跟著上去”，這句話令勞東燕印象深刻。

　　再是“安全”。他們先提及疫情：“附近小區有從武漢回來的人，當時鄰居發現後，就不讓他們進來。如果你家對門或者你單元裏有從武漢回來的人，你肯定也希望能事先發現而阻止他們吧。”勞東燕答：“我不希望知道，他們有權利回自己的家。”

　　“這樣的技術可以更好地打擊違法犯罪分子”，對方繼續說服。

　　“如果監聽全國所有人的手機通信，可以發現更多犯罪分子，我們會允許監聽監控所有人的手機嗎？打擊犯罪隻是社會的一個目標，甚至不是基本目標。”

　　討論到最後，街道辦給出3種可替代方案，不願錄入人臉的居民，也能依靠刷門禁卡、身份證登記或使用手機APP回到自己的家。

　　9月23日午後，在一場主題為“小區門禁能否人臉識別”的專題研討會上，勞東燕簡單地講述了這段經曆。在場另一位嘉賓說她是“為了權利而鬥爭”。勞東燕笑了笑，擺手解釋：“沒有，我也隻是稍微掙紮了一下”。

“壞了的門牙”

　　有人試圖更劇烈地“掙紮”一下。2019年4月，浙江理工大學特聘副教授郭兵，在杭州野生動物世界辦了一張價值千元的年卡，憑借這張卡和指紋，郭兵和家人可以一年不限次數暢遊。但10月17日，他收到一條野生動物世界發來的短信，“即日起，未注冊人臉識別的用戶將無法正常入園。”

　　郭兵以違背《消費者權益保護法》為由，將杭州野生動物世界告上了法庭。將近1年後，他和我敘述當時的初衷：除了感到權益受到侵害，作為一個教授法律的大學老師，他更希望推動一個具有公益性質的訴訟——在個人信息失控的當下，促成相關製度的完善。

　　郭兵說，他辦年卡時，並不知道要錄指紋，交完錢去拿卡時才被要求，他知道生物信息的敏感性，出示身份證就可以證明身份，為什麽還要錄指紋？對方告訴他，入園處隻有指紋這一種方式。孩子在哭，妻子在催，他妥協了。但打官司時，他發現動物園向法院提交的證據中包括自己的一張照片——當時沒有人告訴他這張照片的用途，他以為是貼在年卡上，但動物園的解釋是“遊客當時同意拍照，就視為同意園方收集麵部信息用於人臉識別”。在郭兵的敘述裏，麵對更為強勢的商業機構，個體的意願已經在渾然不知中被扭曲和剝奪。

　　案子在今年6月開庭，按正常流程，法院本應在9月給出判決。但承辦人告訴郭兵，法院認為屬於“疑難複雜案件”，案子的審限到期前經法院院長批準又延了6個月。郭兵說，他從決定去起訴後就一直明確拒絕調解。

　　郭兵的訴訟案和去年10月勞東燕發表的一篇講述人臉識別隱憂的專欄文章一起，成為引發人們關於人臉識別技術反思的“蝴蝶翅膀”。今年9月初，趙逢（化名）決定也掙紮一下。他住了7年的小區開始實行人臉識別門禁係統，在居委會阿姨的催促下，他在小區門口錄入了人臉信息，此後，他陷入一種擔憂，人臉信息是否有泄漏的風險？

　　他去找過居委會，居委會負責人同樣以“便利”與“安全”來說服這個“大驚小怪”的年輕人。又過了幾天，他在網上看到了勞東燕在那場研討會上的分享——他意識到，“當沒有完善的法律保障時，個人信息極有可能被濫用”。

　　他給12345投訴信箱寫信，介紹前因後果，質疑合法性，繼而要求刪除他的人臉與個人信息。進展比預料的更順利，在街道辦的協調下，他在9月底來到物業，看著物業工作人員對著他的人臉信息按下了刪除鍵。

　　“一種未知的恐懼”，趙逢說。為了更精確地解釋這種感受，他舉了一個例子：他曾修整過門牙，結果門牙壞了，這件事的具體風險是——假如有天吃一個蘋果，牙齒可能會被磕掉。這種具體的風險是有應對方法的，磕掉了就再去做一顆，“但它會導致一種不自由的狀態，就是你沒辦法隨心所欲地吃蘋果了”。

　　走出物業時，他鬆了口氣。他知道他仍處在一個巨大的、關乎個人信息的係統裏，但他獲得了一種暫時的安全感：“我要是不掙紮，我就沒有答案。我就永遠要背上那個問號。”

　　2018年5月，歐盟實施了被稱為“史上最嚴”條例的通用數據保護條例，規定違規收集個人信息(其中包含指紋、人臉識別等)、沒有保障數據安全的互聯網公司，最高可罰款2000萬歐元或全球營業額的4%。在美國，今年6月，IBM、亞馬遜、微軟公司先後發表聲明稱，不會向警察部門出售人臉識別服務。看上去，對這項新技術的反思與規製，在世界範圍內已經成為一種趨勢。政治與商業機構，都在警惕這項新技術帶來的種種憂患。而在杭州，開庭結束的當天下午，郭兵又驅車到距離法院並不很遠的杭州野生動物世界。檢票口的工作人員不認識他，他詢問指紋年卡會員的入園方式，對方的回答依然不留餘地：“隻能刷臉入園。”


▲ 山東某景區，工作人員正在引導遊客刷臉入園。圖 / 視覺中國

　　10月1日，我和勞東燕在清華園東南邊的書店，就“人臉識別”展開了一次談話。我們聊到技術的風險與反噬性，聊到有待完善的法律框架，也聊到身處龐大係統中的普通個體可以如何“掙紮”。她反複表達了自己的擔憂，人臉識別技術如若不加以規製，將會影響整個社會的走向。以下是對話內容：

　　人物：你是怎麽關注到人臉識別技術帶來的風險的？

　　勞東燕：由於人臉識別的底層技術在2018年有很大突破，去年下半年開始，我注意到人臉識別商業化的推廣在中國“遍地開花”，連我們學院的咖啡機都通過少付1元錢而引誘人們使用人臉識別支付。到了10月底，又傳出北京地鐵要實行人臉識別分類安檢的消息。我一直在研究“風險社會”，在風險社會中，預防風險的措施本身可能會帶來新的風險。關注人臉識別時，我不僅關注機器學習、數據泄露可能導致的財產與人身威脅，還會關注相關部門運用這種技術所帶來的社會風險。

　　人物：在人臉識別這項技術的使用和接受度上，疫情前後有不一樣的感受嗎？

　　勞東燕：去年下半年我還挺欣慰的，對於個人信息保護，整個主流輿論有所轉向，一些主流媒體也開始報道“人臉識別”潛含的風險，不像以前那樣漠不關心。後來疫情來臨，我們需要通過人臉識別認證健康碼，交出我們的軌跡，讓渡我們的個人信息。為了保持正常的生活，不得不這麽做。疫情對整個社會走向的影響太大了，更多人開始接受這樣被監管的狀態。

　　人物：你認為，人臉識別技術帶來的風險主要有哪些？

　　勞東燕：從最淺的層麵說，如果你的生物信息被別人獲取，別人就可能用你的臉結合你的身份證信息，去登陸你的銀行賬戶，轉移賬戶中的錢，進入你本該進入的單位、小區，或者惡心你一下，把你的臉換到淫穢視頻裏。這些風險，是和居民的日常生活最相關的。而且人臉、指紋這樣的生物信息，一旦泄露，無法改變，也無法獲得救濟，你可能永遠暴露在這樣的風險下。

　　和指紋相比，人臉信息的風險更突出，因為它具有非接觸性。如果要獲取我的指紋，我是知道的，而且指紋泄露後，別人也不知道這個指紋是我的；但人臉泄露後，馬上就能知道是我，其他人都可以迅速鎖定我。清華新聞學院的一位教授，在接受《中國新聞周刊》的采訪時曾提到，我們每天有500次被攝像頭照到的機會。其中有多少攝像頭具有人臉識別的功能，或者收集提取了我們的人臉數據，我們根本不知道。

人物：為什麽生物信息一旦泄露，就無法救濟呢？

　　勞東燕：假設你的人臉信息泄露了，你想通過民法途徑救濟，民法講究“誰主張，誰舉證”，現在這麽多地方在收集，你不知道是誰收集的，不知道是從何處泄露的，也不知道泄露或濫用的人是誰。你舉證不了。

　　想走行政法或刑法保護的途徑，也不那麽容易。隻有大規模的數據泄露，才可能推動公安機關啟動偵查活動。但是，即便公安機關把犯罪分子抓住了，也隻是把他關在監獄。你的信息泄露了就是泄露了，他已經賣給下家，下家可能又賣給另一下家，已然失控，你沒辦法恢複原狀。

　　人物：所以人臉識別應用“遍地開花”的現象，本身就潛含巨大的風險？

　　勞東燕：我們眼下管控風險的能力，跟技術製造風險的能力相比，完全不配套，這是普遍問題。無論是法律手段還是政治手段或其他社會治理手段，進化上都是很慢的，跟不上技術的迭代以及商業化的快速推進。

　　眼下，好像任何一個機構，都可以推廣人臉識別。其中最有動力的是科技公司，它們可以賣設備，接下來還可以收取後續維護的費用。人臉識別的推廣會帶動這個產業的發展。但這個產業的發展跟全社會利益相比微乎其微。一些部門也有動力，因為這樣更便於維護治安，對流動人口的管理也會更容易，但這樣可能損害了同樣重要甚至更為重要的社會價值。小區物業也在推廣，但它根本沒有動力和財力升級係統、維護數據安全。所以“遍地開花”是最可怕的——安全問題有短板效應，互聯網時代的特點是，問題不會出在安防水平最高的地方，而是出在水平最低能力最差的地方。多組織、多中心地收集信息，比單一中心的收集，風險要更大。

　　人物：除了剛才談到的那些，還有什麽更長遠、隱蔽的風險嗎？

　　勞東燕：一旦手機上、電腦中，還有這些遍布在各個角落的攝像頭所獲取的數據全被打通，人就變成透明人了。數據的擁有者，可以知道你的一切，你每天回家的路徑，你開什麽車，跟哪些人交往，你的購物喜好，你的網頁瀏覽記錄，你的立場，這些信息串起來後，相關部門可能比你更了解你自己。在這樣的情況下，一切將變得不可控，甚至會影響現代社會的基本製度。國外已出現商業公司通過分析個人數據來影響選舉的新聞。技術可能會把社會帶向一個跟我們追求的目標徹底背道而馳的方向。

　　人物：目前的法律足以保護我們在生物信息上的權利嗎？未來，關於個人信息保護的法律框架，會往什麽方向發展？

　　勞東燕：目前對個人信息的保護仍主要建立在對傳統社會的想象上，法律上將數據當作與財物一樣的東西。對財物保護來講，最重要的是占有，如果你不告而取，我就要懲罰你。但實際上，數據與財物不一樣，數據具有共享性，使用時不具有排他性。在數據的問題上，不告而取地收集當然有其危害，但是即便經作為數據主體的當事方同意，接下來難道就可以隨意使用他相應的個人數據嗎？肯定不能。

　　眼下我們法學界基本達成共識，以同意機製作為核心的保護機製是有問題的。未來，法律上可能會將保護義務更多放在信息的收集者和控製者身上。信息的控製者要承擔信息保護方麵的任務，而個體需要對自己的數據掌握一定的控製權。比如，你同意別人收集了你的個人數據之後，接下來後續種種，他應該告訴你，接下來會怎麽使用，作為提供數據的個體也應該有權提出刪除。其次，在風險的分配問題上，由於數據收集者和處理者的收集和使用行為製造的風險，誰製造風險，誰就要對風險造成的結果來負責；同時，誰從中獲取最大的利益，誰也就應該負責其中主要的風險。

　　最近剛公布的《個人信息保護法（草案）》在落實知情-同意的機製上有了比較切實的舉措，10月1日生效的新版《個人信息安全規範》對信息收集者也提出了更具體的要求，這些都表明好的改變正在發生。我認為，我也希望，整個法律能夠強化對個體權益的保護。至少從我的觀察來看，我們刑法中對於秩序利益、安全利益的關注，遠遠超過對於個體權益的保護。

　　人物：人臉識別技術的推廣者往往會用“便利”、“安全”的說法，你怎麽看待這點？

　　勞東燕：他們所說的“便利”對我沒有誘惑力。我並不覺得自己的幾秒、十幾秒時間如此地有價值。但在人臉識別推廣中，說服大家接受時，用得最多的就是這個理由。在人臉識別這項技術的推廣中，最大的受益方肯定不是民眾，普通民眾更可能是“冤大頭”的角色。

　　從“安全”角度來講也有明顯的問題。為了抓幾個罪犯，把所有人的生物信息都收集走，收集後的保管與使用環節又無法保證基本的安全。這樣一來，我們的信息被泄露、被濫用，不就是我們的安全受到威脅了嗎？“公共”不是虛的概念，公共就是指公眾的安全，而我們每個人都是公眾中的一員。現在這樣的做法是想獲得小的安全，但其實會危及更大的安全。

人物：李彥宏說過中國人願意“用隱私換便捷”，你認同這一點嗎？

　　勞東燕：我不認同。我覺得，根本的原因，是因為信息披露得不充分不完整，相應風險被告知得不夠，讓大家誤以為其中隻有好處而沒有風險或風險很小。你隻要告知相應的風險，人們不見得就一定喜歡用隱私換安全換便利。我往兩個小區群裏發文章，沒一個業主出麵反對，反而有很多讚成的。隻要如實地披露其中的風險，人們馬上就會意識到，不應該用隱私換便捷，這很可能是在與魔鬼做交易。人在所接受的信息不充分不完整的情況下，可能會更注重眼前利益，那是因為你沒有告訴他其中的風險所在，以及這個事情可能會往什麽方向發展。

　　人物：是不是這種風險也有隱蔽性、滯後性，所以人們很難真切地感受、強烈地重視。

　　勞東燕：對，從人臉信息被買賣、泄露到發生風險往往會有一段時間。但你想，有人買你的人臉數據，如果無利可圖，他怎麽會買呢？再往前想幾步，你的人臉信息掌握在一個想用來謀利的人手裏，就等於有雷埋在那裏，隻是你不知道這個雷什麽時候會爆炸。

　　人物：你在學術論壇上說，自己向小區抗議人臉識別門禁，隻是“掙紮了一下”。你怎麽看待這樣的掙紮？

　　勞東燕：有的時候，你會發現掙紮一下是有用的。

　　在小區這樣的場景中，由於物業沒有內在動力去推行，如果有反對聲告訴他存在的法律風險，可能就退讓了。這也是在一些小區人臉識別沒有繼續推行下去的原因。其他場景中，掙紮可能就不管用，比如在賓館抗爭使用人臉識別，賓館會拒絕讓你居住。掙紮有時需要付出代價，也受到很多現實的製約。日常生活裏，我會告訴我的孩子不要貪小便宜而使用某些技術，也會盡量避免在使用APP時錄入我的人臉信息。

　　人物：普通人能做什麽？

　　勞東燕：發出自己的聲音，以使在輿論和社會當中形成合力。這種合力有助於抵製人臉識別技術的濫用，且可能會改變立法與相應的決策。這是我認為當下每個公民都可以做的。

　　做技術的人總會說技術中性，他們很少思考技術與社會的關係問題，也不關注社會係統如何運作。技術是在現實社會空間中運行的，影響也會波及到現實社會，怎麽可能是中性的？其實我們每個人都困在係統裏，被控製在算法裏，差別隻在於程度的不同。對於科技企業決策者、官員而言，他們也是係統中的一部分，也有作為普通人的一麵。技術具有不確定性和反噬效應，你如果想控製別人，別人也可能反過來控製你。所以，他們也會麵臨個人生物信息被泄露與濫用的風險。

　　我曾和產業界的人一起參會，一名科技公司的管理人員提到，公司內部討論產品是否要推廣於教育場景時，她提出了反對——在那個時刻，她既是科技領域的企業管理者，也是一位母親。現在沒有遭遇危機，不代表著永遠不會。現在一些小區，對租戶實行人臉識別門禁，業主則可以自由選擇。很多做法的推行都會利用人們的這種心理，在把少數人排除出去侵害他們的權利的同時，通過承諾保障多數人的利益，借此來爭取多數人的同意，從而讓侵害少數人權利的做法變得可接受。我非常反對這種做法。我們經常覺得，別人的權利被侵害了沒有關係，隻要不侵害自己的就可以。但你會發現，下一次你隨時有可能成為少數人，到那時，你的權利被侵害，自然也沒有人站出來為你說話。

　　人物：在現代社會，個人信息為什麽會如此重要？

　　勞東燕：個人信息是否值得保護，不取決於這個信息是否涉及隱私，而取決於通過這個信息能否識別到你。如果可以通過某個信息或結合其他信息識別到特定的自然人，這樣的信息就是法律要加以保護的。這次《民法典》也在隱私權之外，額外地規定了個人信息權利。在現代社會，一個人的匿名性相當重要。你並不想所有舉動都被毫無遺漏地永久記載下來，曝光在每一個人的麵前。匿名性是現代社會運作的基礎。不然，你可能發現，在任何地方，都可能有一隻眼睛始終在盯著你。你因此喪失了自由，並且也不見得會擁有安全感。