▲網(wǎng)傳AI仿冒全紅嬋帶貨畫面。圖/央視新聞

“大家好，克隆我是聲音你們的嬋寶，今天有事請(qǐng)大家?guī)兔?。網(wǎng)絡(luò)嬋妹就想著幫助媽媽，橫行讓家里的任由生活過得更好一點(diǎn)，同時(shí)把老家的克隆土雞蛋分享給粉絲們嘗嘗……”

據(jù)央視新聞報(bào)道，在互聯(lián)網(wǎng)上，聲音奧運(yùn)冠軍的網(wǎng)絡(luò)“聲音”突然開始推銷農(nóng)產(chǎn)品，知名演員的橫行“聲音”24小時(shí)不間斷在直播間與粉絲互動(dòng)……隨著AI技術(shù)的普及，“克隆”特定人物聲音已實(shí)現(xiàn)“一鍵式”操作。任由當(dāng)聲音能被輕易竊取和濫用，克隆隨之而來(lái)的聲音侵權(quán)亂象頻繁上演。

在媒體的網(wǎng)絡(luò)梳理里，全紅嬋、橫行孫穎莎、王楚欽這些知名的運(yùn)動(dòng)員全都“中招”。他們“推銷土雞蛋”被AI工具一鍵生成，搭配上他們的畫面鏡頭，利用粉絲對(duì)運(yùn)動(dòng)員的喜愛，迅速就可以“起號(hào)帶貨”。

這是很惡劣的伎倆，不僅侵犯運(yùn)動(dòng)員的人格權(quán)，也在誆騙利用消費(fèi)者的情感，讓很多人誤以為真的在幫運(yùn)動(dòng)員的“家里生活過得好一點(diǎn)”。如果任由AI克隆聲音在網(wǎng)上橫行，不僅會(huì)傷害粉絲群體對(duì)運(yùn)動(dòng)員的信任，沖擊正常的帶貨生態(tài)，長(zhǎng)此以往也會(huì)損害人們對(duì)真實(shí)與善意的基本信賴。

同時(shí)，也要看到，隨著技術(shù)進(jìn)步，侵權(quán)和維權(quán)的成本逐漸不成比例，這在客觀上造成了此類亂象屢禁不止。

據(jù)網(wǎng)絡(luò)安全專家介紹，基于開源的語(yǔ)音大模型，只需一段清晰的語(yǔ)音樣本，任何人的聲音都可能在極短時(shí)間內(nèi)被克隆，并能被操縱說(shuō)出攻擊者設(shè)定的任意內(nèi)容?？梢姡珹I克隆聲音幾乎是零成本、零門檻，早已能輕松實(shí)現(xiàn)。

然而，想要維權(quán)卻并不容易。此前很多靳東、劉曉慶、古天樂、張文宏等知名人物都曾遭遇類似困境，也都紛紛發(fā)布聲明表示維權(quán)，但實(shí)際走到法律層面的并不多。這些賬號(hào)往往變換迅速，內(nèi)容刪除、隱藏頻繁，給取證造成巨大困難，也因此有法律人士指出，“部分受害方遇到該情況往往會(huì)迫于無(wú)奈，放棄以訴訟方式維權(quán)?！?/p>

但這種侵權(quán)行為不應(yīng)該是個(gè)無(wú)解難題?？梢韵胂?，隨著AI技術(shù)的普及，類似產(chǎn)品可能會(huì)越來(lái)越多、傳播越來(lái)越隱蔽，如果只靠被侵權(quán)者“一個(gè)個(gè)去追責(zé)”，恐怕也是捉襟見肘。反過來(lái)說(shuō)，只有在技術(shù)和制度層面提前“補(bǔ)漏”，才更有可能實(shí)現(xiàn)有效封堵。

首先，應(yīng)該盡到審核把關(guān)之責(zé)的就是互聯(lián)網(wǎng)平臺(tái)。互聯(lián)網(wǎng)平臺(tái)理應(yīng)在直播上線、廣告投放、商品銷售等關(guān)鍵環(huán)節(jié)完善風(fēng)險(xiǎn)識(shí)別機(jī)制，對(duì)涉及名人頭像、聲音的帶貨行為進(jìn)行重點(diǎn)審核。一旦發(fā)現(xiàn)疑似AI克隆造假，應(yīng)當(dāng)主動(dòng)攔截、第一時(shí)間下架，阻斷其傳播。

今年9月1日將施行的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，其中也對(duì)“生成合成內(nèi)容添加顯式標(biāo)識(shí)”“提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取技術(shù)措施，規(guī)范生成合成內(nèi)容傳播活動(dòng)”等提出了明確要求。

對(duì)此，互聯(lián)網(wǎng)平臺(tái)也應(yīng)當(dāng)對(duì)標(biāo)要求，進(jìn)一步完善技術(shù)識(shí)別能力，規(guī)范AI內(nèi)容的標(biāo)記，并對(duì)有意繞開標(biāo)記規(guī)范的賬號(hào)進(jìn)行嚴(yán)肅處理，從而規(guī)范平臺(tái)整體的AI應(yīng)用生態(tài)。

另外，相關(guān)部門也可以考慮和平臺(tái)建立消費(fèi)者舉報(bào)、被侵權(quán)者維權(quán)的綠色通道，對(duì)平臺(tái)的證據(jù)保全等提出細(xì)化要求。在維權(quán)訴求發(fā)出之后，相關(guān)各方可以迅速聯(lián)動(dòng)，完成素材封存、賬號(hào)鎖定、傳播追蹤等關(guān)鍵動(dòng)作，將傳播、取證到司法裁判各環(huán)節(jié)都打通、提速，提升維權(quán)效率，讓侵權(quán)者付出沉重代價(jià)。

長(zhǎng)遠(yuǎn)來(lái)看，治理AI克隆不僅是保護(hù)個(gè)體權(quán)益、維護(hù)市場(chǎng)秩序，更是為人工智能產(chǎn)業(yè)的健康發(fā)展掃清障礙。只有在發(fā)展與監(jiān)管之間找到平衡，將技術(shù)創(chuàng)新置于明確的法律邊界和倫理規(guī)范之中，才能真正讓AI成為推動(dòng)社會(huì)進(jìn)步的正向力量，從而構(gòu)建一個(gè)更透明、更可信賴的數(shù)字世界。

編輯 / 徐秋穎

校對(duì) / 楊許麗

最新評(píng)論