（央視財(cái)經(jīng)截圖）值得一提的復(fù)活是，這是禍已貨北京市場(chǎng)監(jiān)管部門運(yùn)用《廣告法》對(duì)濫用AI技術(shù)冒用知名人物形象發(fā)布虛假?gòu)V告問(wèn)題的首次亮劍，釋放了明確信號(hào)，故茶技術(shù)應(yīng)用不能逾越法律紅線。葉專
此案僅是家?guī)I技術(shù)被濫用的冰山一角
類似鬧劇層出不窮
10月14日，已故的復(fù)活著名茶學(xué)家、制茶和審評(píng)專家張?zhí)旄１籄I工具“復(fù)活”為茶企代言一事引發(fā)關(guān)注。禍已貨視頻發(fā)布賬號(hào)歸屬福建張?zhí)旄Ｆ放乒芾碛邢薰?，故茶工作人員承認(rèn)，葉專視頻系A(chǔ)I制作。家?guī)?/p>
（視頻截圖）
今年4月，復(fù)活中國(guó)國(guó)家話劇院發(fā)表聲明，禍已貨稱發(fā)現(xiàn)社會(huì)上有公司未經(jīng)其同意擅自使用話劇《青蛇》作品，故茶違法進(jìn)行冒演、葉專虛假宣傳，家?guī)E用AI換臉技術(shù)，偷換概念，公開(kāi)售票，欺騙觀眾。
此外，某平臺(tái)一部微短劇被曝疑似使用了AI技術(shù)，未經(jīng)授權(quán)將某知名演員的面部特征移植到其他演員臉上，后版權(quán)方采取了下架處理，刪除了爭(zhēng)議片段。
北京社會(huì)科學(xué)院副研究員王鵬對(duì)記者表示，這一現(xiàn)象是技術(shù)濫用與流量經(jīng)濟(jì)畸形結(jié)合的產(chǎn)物，反映了AI技術(shù)普惠化進(jìn)程中創(chuàng)新工具與行騙手段的邊界模糊問(wèn)題，其背后是利益驅(qū)動(dòng)下的倫理失范。
新規(guī)落地
AI內(nèi)容必須“打標(biāo)”
為什么AI仿冒會(huì)出現(xiàn)井噴？
薩摩耶云科技集團(tuán)AI機(jī)器人行業(yè)研究員鄭揚(yáng)洋表示，現(xiàn)在可以靠“開(kāi)源模型+云端API”實(shí)現(xiàn)30秒克隆聲音和人臉，生產(chǎn)成本比之前低。平臺(tái)容易給前3秒完播率的權(quán)重最高，若把名人帶貨等內(nèi)容放在首幀，算法可能會(huì)自動(dòng)放大，這讓不法分子嘗到了AI換臉的甜頭。
面對(duì)AI仿冒亂象，9月1日起，國(guó)家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》施行。
《辦法》明確要求，利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場(chǎng)景等信息，必須依法添加相應(yīng)的聲明標(biāo)識(shí)。
根據(jù)《辦法》，人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。其中，針對(duì)AI生成視頻，要求在視頻起始畫面和視頻播放周邊的適當(dāng)位置添加顯著的提示標(biāo)識(shí)。
六大平臺(tái)迅速響應(yīng)
記者看到，8月29日至9月1日，騰訊、快手、小紅書、嗶哩嗶哩、微博、抖音6家平臺(tái)均發(fā)布公告稱已按照相關(guān)規(guī)定提供AI內(nèi)容標(biāo)識(shí)聲明功能。對(duì)于未主動(dòng)標(biāo)識(shí)的AI生成內(nèi)容，平臺(tái)有權(quán)添加標(biāo)識(shí)。快手、嗶哩嗶哩、小紅書還在公告中強(qiáng)調(diào)用戶不得惡意篡改、隱匿平臺(tái)相關(guān)標(biāo)識(shí)。
（抖音平臺(tái)截圖）但在實(shí)際應(yīng)用中，AI視頻標(biāo)注仍存在諸多難點(diǎn)。用視頻模型工具生成的視頻，如果用戶有心將AI水印進(jìn)行擦除，平臺(tái)則存在無(wú)法識(shí)別AI視頻的可能性。一業(yè)內(nèi)人士表示，盡管已有一些AI內(nèi)容檢測(cè)技術(shù)，但生成模型迭代速度更快，“破綻”修補(bǔ)迅速，檢測(cè)技術(shù)往往處于被動(dòng)追趕狀態(tài)，實(shí)現(xiàn)百分百精準(zhǔn)識(shí)別異常困難。
責(zé)任模糊、技術(shù)滯后
全鏈條治理待完善
如何減少利用換臉技術(shù)侵權(quán)的行為？天元律師事務(wù)所合伙人李昀鍇表示，內(nèi)容發(fā)布平臺(tái)的責(zé)任主要體現(xiàn)在制定明確的平臺(tái)規(guī)則、提供技術(shù)或功能支持、履行內(nèi)容審核義務(wù)、采取必要處置措施。如果內(nèi)容平臺(tái)未盡到義務(wù)，監(jiān)管部門可以依據(jù)《網(wǎng)絡(luò)安全法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等，對(duì)平臺(tái)采取警告、通報(bào)批評(píng)、責(zé)令限期改正、罰款等行政措施。而對(duì)于內(nèi)容發(fā)布者而言，目前《辦法》實(shí)質(zhì)上沒(méi)有規(guī)定內(nèi)容發(fā)布者不標(biāo)注的法律責(zé)任。實(shí)踐中，內(nèi)容平臺(tái)作為傳播渠道，其強(qiáng)制性要求和技術(shù)干預(yù)是關(guān)鍵。
“部分生成工具具備‘去標(biāo)識(shí)化’功能，可自動(dòng)擦除平臺(tái)水印或干擾哈希比對(duì)，導(dǎo)致現(xiàn)有監(jiān)測(cè)系統(tǒng)出現(xiàn)漏檢。”鄭揚(yáng)洋認(rèn)為，一個(gè)解決方案是端側(cè)硬水印配合鏈上備案，而非僅靠平臺(tái)事后刪除。
鄭揚(yáng)洋表示，平臺(tái)可以做降阻前置警告，比如在視頻前3秒強(qiáng)制彈窗“本內(nèi)容含AI生成畫面”，紅色進(jìn)度條1秒，降低用戶“無(wú)意識(shí)信謠”。從傳播角度看來(lái)，既然使用名人來(lái)AI生成虛假視頻，建議由主流平臺(tái)與權(quán)威媒體共建“AI辟謠”專區(qū)，一鍵跳轉(zhuǎn)可做真?zhèn)螌?duì)比。
鄭揚(yáng)洋對(duì)記者表示，現(xiàn)行規(guī)范性文件對(duì)“訓(xùn)練源頭”和“刑事罰則”覆蓋仍需要加強(qiáng)，建議需盡快推動(dòng)人工智能統(tǒng)一立法，把生成、傳播、平臺(tái)責(zé)任一并納入，形成全鏈條合規(guī)指引。
對(duì)此，王鵬進(jìn)一步表示，目前缺乏針對(duì)AI技術(shù)的專屬立法。當(dāng)前法律框架主要基于傳統(tǒng)肖像權(quán)、個(gè)人信息權(quán)和著作權(quán)等概念，未針對(duì)AI換臉等生成式技術(shù)的特點(diǎn)制定專門規(guī)范，明確其使用規(guī)范、責(zé)任劃分及處罰標(biāo)準(zhǔn)。雖然《民法典》《著作權(quán)法》《廣告法》均有作出懲罰性賠償?shù)南嚓P(guān)規(guī)定，但獲賠的案件不多，導(dǎo)致缺乏足夠的震懾力，很多侵權(quán)方的違法成本可能遠(yuǎn)低于侵權(quán)行為可能為其帶來(lái)的商業(yè)利益。
你被AI“名人”視頻誤導(dǎo)過(guò)嗎？
歡迎留言討論
素昧平生網(wǎng)
