一張超聲圖就能讓AI預測胎兒長相?揭秘AI背後的隱憂
上觀新聞
2024-06-24 00:45:36
近日,市民朱女士向解放日報•上觀新聞“民聲直通車”反映,她在某電商平台付費8.8元下單四維超聲圖AI預測胎兒長相。一開始,她感到商家反饋的生成照片和彩超影像有幾分相似,但當其他寶媽將生成圖分享出來時,她才發現,寶寶們竟然“撞臉”了。當她向賣家申請退費時,商家懷疑其是同行在搞鬼,拒絕退費。
在各大社交、電商平台,搜索“AI預測寶寶長相”等關鍵詞,各類有償或無償的AI預測寶寶長相服務的賬號、小程序等接二連三地出現。用AI預測胎兒長相究竟是不是智商稅?這些打著“預測”噱頭的技術服務背後有何套路?
△商家曬出的比對圖。
半小時就能出4張圖,商家訂單過萬
翻看“AI預測寶寶長相”的帖文可發現,由於涉及胎兒的麵部特征,需要提供的照片多數是四維的超聲檢查圖片。而一般孕婦拍攝四維彩超的時間是孕20至26周,主要是為了看清肢體、五官等是否健全。
6月18日,記者用“四維AI照片預測”等關鍵詞搜索主流購物平台,排名第一的商家24小時內已有69人購買該服務,成交20000多單。多數都不支持7天無理由退貨。在詳情頁麵,賣家將四維圖、出生圖和AI繪畫圖進行了比對。記者注意到,許多四維圖展現的畫麵信息模糊不全,甚至沒有正麵的五官信息。
一家售價8.8元的店鋪客服介紹,隻要發送1張寶寶的三維、四維或五維圖給客服,等待10餘分鍾就可生成4張AI圖。記者詢問是用何種技術預測,對方表示,用的是“mj”,即Midjourney製圖工具。似乎為了減少消費者的疑慮,客服特別標注,采用專屬獨立服務器、保護隱私。在另一家售價9.9元的店鋪,客服則表示必須要四維照片,AI模型將會輸出4張出生長相預測結果,但不願意透露AI模型的名稱。
一家主打AI繪畫的店鋪單次售價“高達”26.9元。客服聲稱,他們的AI預測是高清深度還原,區別於普通還原,不是一鍵生成,更不是網圖或者素材圖,生成的照片五官特征明顯,結合多項“黑科技”,相似度可以高達80%,因而製作流程煩瑣,速度慢。“需要人工修複加軟件,遇到一張胎兒角度不正的圖,耗時需要1個小時以上。”
消費者是否對AI預測寶寶長相服務買單?市民蘇女士懷的是雙胞胎,出於“圖個樂,滿足好奇心”的想法,在電商平台下單做了預測:“這錢花得就是圖一個情緒價值。”市民白女士尚未生育,她認為,這類預測服務是商家借用AI技術販賣虛假服務。
從買家的反饋看,認為相似度高的買家,曬出的嬰兒圖片臉型大多圓潤,多數都是閉著眼睛、嘴巴緊閉的狀態。加之毛發稀少,或戴著帽子,判斷像不像主要取決於鼻子、人中。也有買家表達了不滿意,認為撞臉度過高,“一鍵套用模板”“像是隨便找的網圖”。有買家直言“B超和AI圖完全沒關係,拿捏我們這些準媽媽的好奇心行騙”。對此,商家多以“預測本來就是講究可能性,沒有絕對的事情”來回應。
△商家曬出的效果圖案例。
娛樂屬性強,專家提醒提防隱私泄露
用AI預測胎兒長相究竟是不是智商稅?實際上,Midjourney是美國一個工作室研發的AI製圖工具,官方中文版仍然處於內測中。賣家看到商機,不排除通過“二道販子”等代理服務的方式為國內用戶提供鏡像服務獲得生成結果。
商家聲稱的“製作成本高,定價低”也同樣存疑。實際上,Midjourney在海外提供多種訂閱選擇,月費從10美元起步。用戶可在網頁端進行創作,無需安裝程序。用戶將彩超圖拖進網頁後,輸入關於生成結果的描述詞,比如國籍、眼睛、皮膚、臉型、穿著、裝飾物等,網頁就會根據詞義快速生成一張四宮格的圖片,還可以多次修改、生成。
寶媽們從社交平台、社群或者私立醫院廣告中了解到該服務後,進而上傳超聲診斷報告獲取AI圖片。有社交平台、應用軟件上線了“四維AI預測寶寶長相”的拍攝功能,要求用戶將超聲診斷報告放在攝像頭前,露出孕婦的名稱、年齡、檢測時間、幼兒生物信息。多款主打免費預測的小程序,采取用戶授權查看廣告後才能獲得免費生成的資格。有的還誘導用戶充值成為會員,獲得快速生成結果的權限。更有甚至,一款“寶寶長相預測助手”還要求提供嬰兒父母的人臉信息。
△社交平台出現一鍵預測的功能。
在售賣預測圖之外,記者還發現了許多打著“5分鍾就能學會的AI副業,輕鬆月入過萬”,販賣AI預測課程的賬號。有商家號稱提供的是結合人工智能和醫學影像學的創新技術,售價高達2199元。部分商家抓住女性生育哺乳期間的職場真空狀態,對AI技術應用大肆營銷。
△販賣AI預測胎兒長相技術的課程。
中倫律師事務所合夥人劉新宇認為,利用超聲影像預測胎兒長相屬於娛樂屬性更強的應用。商家正是看中了現實中寶媽對未出生寶寶容貌的期待心理,這個細分領域才會迅速打開市場。不過,AI製圖工具是在胎兒超聲影像數據的基礎上,通過輸入的描述詞以及其底層算法邏輯擴散演化生成一張新的圖,這個過程應該理解成是一種圖像重繪,而非預測。盡管新生成的圖在很大程度上依賴於原始胎兒超聲影像,表現出一定的相似性特征,但由於無法考慮到真實胎兒在母體發育以及出生過程中可能會受到的遺傳、環境等方麵因素的影響,AI製圖工具很難準確地預測出寶寶的真實模樣。對此,平台應建立起相應的管理製度體係,對於各類特別是涉及侵犯他人合法權益的不法行為及時采取處置措施;商家則應當做好相應產品和服務規則的明確告知,不得誤導、欺騙消費者,或侵害消費者的個人隱私等各項合法權益。
浙江理工大學數據法治研究院副院長郭兵則指出,超聲影像屬於一種私密信息,可能夾帶有其他個人信息,上傳到公開平台存在泄露隱私信息的風險,容易導致用戶的隱私信息被應用於各類“精準”營銷,甚至是電信網絡詐騙。不排除是第三方繞過平台規則為用戶提供的服務。他建議,消費者應當對提供生圖服務的商家擦亮眼睛,注意保護自己的隱私信息。“即便平台下架了相關服務,隱私信息一旦泄露,也很難再挽回了。”