違法成本低

在某社交平臺上，分身北京商報記者搜索“協和醫(yī)院于康教授”的協和詞條發(fā)現，目前還有不少與該教授有關的醫(yī)生健康飲食科普短視頻在傳播。以其中某條打出“于康教授：你知道嗎？被盜這7種水果對身體好處非常多”的短視頻為例，該視頻只能看到教授肩頸以上的臉賣部位，背景圖以山水畫為主。減肥在內容方面，食整視頻中在介紹完對肝臟好的治偽7種水果后，開始為某養(yǎng)生講堂引流，分身稱在添加其公眾號后可以免費領取相關食療養(yǎng)生課程。協和

在天使投資人、醫(yī)生資深人工智能專家郭濤看來，被盜“AI換臉”不法商用現象頻發(fā)與操作門檻低密不可分。臉賣目前，減肥在技術層面，食整AI換臉工具已高度普及，手機小程序、開源軟件讓操作簡化為“一鍵生成”，單次換臉成本低至幾分錢，無需專業(yè)知識即可完成。

在蘋果應用程序商店里搜索“AI換臉”，排名靠前、涉及AI換臉變裝等效果生成的星繪App、臉貓App及AI換臉App，下載量分別達到21萬、6.9萬和3.2萬。另外，電商平臺上不少制作AI數字人的商家也并不會對數字人模型的來源進行審核。北京商報記者以消費者身份咨詢某電商平臺制作AI數字人的商家獲悉，參照該人物形象及相關文案，最快只需2個小時就能進行1:1克隆產出相關無AI水印的短視頻，按照200字及以內文案收費，只需花費45元。

河南澤槿律師事務所主任付建表示，因AI技術逐漸成熟，操作門檻逐步降低，并且不法商家違法成本偏低，目前多數案件僅處行政拘留或小額罰款，民事賠償數額有限。

此外，據北京市海淀區(qū)市場監(jiān)管局相關負責人介紹， AI深度偽造視頻鑒別成本遠高于侵權違法行為造假成本，并且大量AI合成視頻涌現電商平臺，但權利人可能并不知曉或知情后維權周期長、程序復雜，使得部分權利人最終放棄維權。

溯源追責難

針對AI換臉，除違法成本偏低、承擔后果較輕外，對其及時監(jiān)管和溯源追責也存在難度。

北京市京師律師事務所律師盧鼎亮表示，一方面，AI換臉造假手段迭代快，不法商家會通過鏡像翻轉、畫中畫遮擋、對抗性噪聲嵌入等方式規(guī)避檢測，監(jiān)管技術難以實時跟進；另一方面，平臺監(jiān)管被動，多數平臺仍以事后處理為主，等用戶投訴后才下架內容，速度遠不及AI造假傳播速度。

另據觀察，AI換臉的發(fā)布者和制作方都有“脫身之道”。從前述某社交平臺上“協和醫(yī)院于康教授”的短視頻來看，仔細觀看該視頻，能明顯看出教授的嘴型與配音并不匹配，且在視頻下方還有“AI生成，內容僅供參考，若有不適，請及時就醫(yī)，如有侵權請告知，立馬刪除”的小字提示。

北京商報記者與多位AI數字人制作商家交流時發(fā)現，各商家均會提出免責聲明，例如，聲稱店鋪所有視頻與圖片素材均由AI生成，不涉及侵權；提供的視頻制作服務僅供合法用途，若因客戶使用本服務而導致任何法律責任，本店鋪不承擔任何責任等。

“制作商提出的口頭或文字免責聲明無效，因其不能免除侵犯他人人格權、欺詐消費者等法定責任。涉嫌違反《中華人民共和國民法典》中關于肖像權、消費者知情權的條款。且即便標注‘AI生成’，制作發(fā)布方未經當事人同意使用其肖像仍屬違法違規(guī)，因為《中華人民共和國民法典》中明確肖像權需經權利人許可方可使用，標注行為不能抵消侵權本質?！备督ㄕf。

“用AI治AI”需建“制度護欄”

近年來，為整治AI換臉，政策法規(guī)也不斷完善。例如，中央網信辦開展“清朗·整治AI技術濫用”專項行動，重點打擊未經授權克隆生物特征等行為；國家網信辦、工信部等聯合發(fā)布的《人工智能生成合成內容標識辦法》于今年9月1日正式實施，明確AI生成內容必須“亮明身份”；地方層面，北京、上海等探索AI管理地方立法，形成國家與地方協同治理格局等。

網信部門近日也開始從嚴整治利用AI仿冒公眾人物開展直播營銷問題亂象，嚴厲處置“百貨超市小店”“娜娜好物聯盟”“環(huán)球護膚美妝甄選”等一批違法違規(guī)網絡賬號。同時，督促網站平臺發(fā)布治理公告，舉一反三，開展集中清理整治，目前已累計清理相關違規(guī)信息8700余條，處置仿冒公眾人物賬號1.1萬余個。

盧鼎亮表示，未來，如何明確和壓實網絡平臺的審查和管理責任，利用技術手段主動發(fā)現、攔截違規(guī)內容，如何實現更有效、更普適、更難篡改的溯源和水印技術，如何實行執(zhí)法人員可具體操作的實施指南和取證規(guī)范，如何加強國際司法協作共同打擊跨境AI犯罪等，都是進一步的課題。

談及“用AI治AI”，盧鼎亮認為，這是當前應對深度合成技術濫用的重要思路，其本質上是一場在數字世界中不斷升級的“攻防戰(zhàn)”。AI治理技術主要圍繞“偵測、溯源、阻斷”三個環(huán)節(jié)展開，“用AI治AI”具有高效率與自動化的特點， AI識別準確率還會隨著數據積累和算法優(yōu)化而不斷提升。但“用AI治AI”也充滿挑戰(zhàn)。偽造技術也在不斷進化，會專門針對檢測AI的弱點進行優(yōu)化，從而導致“貓鼠游戲”的永恒對抗。同時，沒有任何AI檢測能達到100%準確。誤將真實內容判為虛假，或漏掉高精度偽造內容，都可能帶來負面后果。如何設定閾值、建立人工復核申訴機制也至關重要，需要在機制上減少誤判風險，防止“算法暴政”。未來的治理格局是攻防兩端AI技術的持續(xù)博弈與共同進化，除技術外，也需要構建完善的制度護欄，讓技術創(chuàng)新在法治軌道上行穩(wěn)致遠。

北京商報記者 劉洋 程靚

(責任編輯：知識)