
人工智能生成的深偽影像,凸顯當前教育界在應對新興科技霸淩時的嚴重滯後。(法新社檔案照)
在美國路易斯安那州的一所中學,一名13歲少女的數位噩夢,正顯現出人工智能(AI)技術最陰暗的一麵。當AI生成的虛假裸照在校園與社群媒體瘋狂流傳,受害少女的求救卻被大人視為誇大謊言,最終導致一場肢體衝突與後續失靈的管教體製,反映出教育界在應對新興科技霸淩時的嚴重滯後。
《美聯社》報導,事件起於拉福什教區(Lafourche Parish)學區的一所中學。受害少女與友人發現,有人利用AI軟件將她們的臉部合成至裸照上。盡管她們第一時間向校方輔導員與派駐學校的副警長求救,但因照片是在會自動刪除訊息的社群平台Snapchat上流傳,校方以“找不到證據”為由,將其定調為學生間的流言蜚語。
校長科瑞爾(Danielle Coriell)在事後的懲戒聽證會上直言:“孩子們常常撒謊,並把事情誇大。”
這種“大人不相信小孩”的心態,讓受害學生在校園生活中持續承受同儕的嘲弄與羞辱。直到放學後的校車上,少女親眼目睹男同學在手機上展示她們的AI生成裸照,情緒終於崩潰。
在盛怒之下,這名過去紀錄良好的8年級生攻擊該名男同學,她因此麵臨了退學處分,並被勒令轉入中途學校(alternative school)。諷刺的是,當時涉嫌散布影像的男學生,卻未受到同等的校內處分。
少女的父親丹尼爾斯(Joseph Daniels)悲憤地表示,女兒被“二度傷害”,先是照片的侵犯,接著是學校的不信任,最後是因自我防衛而遭到嚴厲驅逐。在轉學後的憂鬱與焦慮下,少女一度停止進食,且學業完全中斷。
直到衝突發生3周後,當地警方才根據路易斯安那州新通過的法律,對2名涉嫌散布AI影像的男生提出10項“非法散布AI生成影像罪”指控。然而,盡管法律層麵已認定少女為受害者,校方的懲戒委員會仍堅持將其退學。
專家指出,雖然各級學校正忙於處理AI在教學上的應用,卻鮮少針對AI可能觸發的網絡霸淩與騷擾做好準備。在律師與家長積極上訴下,校方董事會最終同意讓該名少女複學,但仍維持留校察看至明年1月底,這意味著她錯過籃球隊選拔與所有的課外活動。
報導指出,這起案例凸顯當前教育體係的困境:麵對能夠輕易將社群媒體照片生成為裸照的新型科技,現有的2018年版校園反霸淩教材已完全過時。當法律與技術雙管齊下成為新型武器,如何建立有效的“護欄”,防止AI成為摧毀兒少心理健康的工具,已成為全球校園安全的緊迫課題。
