已經(jīng)去世的復(fù)活茶界泰斗被“復(fù)活”做品牌代言？央視新聞節(jié)目的主持人在直播間賣起了“深海魚油”？最近一連串使用AI技術(shù)的違規(guī)廣告營銷視頻，引發(fā)了廣泛關(guān)注。茶界10月14日，泰斗一段由AI生成的偽造已故“茶界泰斗”張?zhí)旄，F(xiàn)身短視頻平臺(tái)為某茶企代言的視頻在網(wǎng)絡(luò)引發(fā)廣泛爭(zhēng)議。對(duì)此，主持張?zhí)旄５娜速u家屬表示，將通過法律途徑維權(quán)?？捎?/p>

用AI復(fù)活逝者，越紅本可視為一種記憶上的復(fù)活“反哺”；但如果未經(jīng)當(dāng)事人家屬允許而用于商業(yè)推廣，被惡意消費(fèi)的茶界就不僅僅是逝者，還破壞了基本的泰斗社會(huì)倫理，更涉嫌違反相關(guān)法律。偽造我國《民法典》等法律法規(guī)明確規(guī)定，主持自然人去世后，人賣其形象權(quán)與名譽(yù)權(quán)仍受法律保護(hù)?？捎?strong>

如今在各短視頻平臺(tái)，AI“復(fù)活”已故名人已非新鮮事。2024年歌手李玟在去世八個(gè)月后被網(wǎng)絡(luò)博主用AI技術(shù)“復(fù)活”，其他近現(xiàn)代歷史人物被用AI制作出自拍vlog甚至蹦迪的視頻更是屢見不鮮。這些行為不僅讓逝者尊嚴(yán)被商業(yè)利益裹挾，更讓其親人面對(duì)形象被濫用的二次傷害。

生成式AI在商業(yè)領(lǐng)域的濫用，會(huì)對(duì)消費(fèi)者造成嚴(yán)重誤導(dǎo)。據(jù)央視新聞報(bào)道，今年2月北京市海淀區(qū)市場(chǎng)監(jiān)管局查處一案中，某公司不僅通過視頻賬號(hào)虛假宣傳其“深海多烯魚油”可治療多種疾病，更用AI技術(shù)偽造央視某主持人形象用于直播間。這種行為精準(zhǔn)利用了部分群體對(duì)權(quán)威媒體、權(quán)威主持人的信任心理，大幅降低消費(fèi)者的警惕性。同時(shí)，“有圖有真相”的刻板印象，讓AI偽造形象、合成已故專家代言等行為極具迷惑性，最終破壞了市場(chǎng)消費(fèi)的信任體系。

從技術(shù)層面來看，如今制作一段AI生成視頻的門檻極低，僅需一段音頻或視頻素材就能進(jìn)行深度合成。盡管有技術(shù)專家提出，若在源頭嚴(yán)格管理數(shù)據(jù)安全——比如用戶上傳素材時(shí)進(jìn)行人臉、人聲識(shí)別，并提示需取得相關(guān)個(gè)人授權(quán)，可有效減少違規(guī)使用——但大量數(shù)據(jù)審核仍會(huì)給平臺(tái)帶來一定壓力。

隨著人工智能高速發(fā)展，大量具備內(nèi)容生成功能的人工智能大模型快速涌現(xiàn)。在用戶規(guī)模擴(kuò)大的同時(shí)，人工智能治理面臨的風(fēng)險(xiǎn)與不確定性也在上升。對(duì)于消費(fèi)者而言，也需提升自我保護(hù)意識(shí)：觀察視頻細(xì)節(jié)；遇到“名人代言”“權(quán)威推薦”之類內(nèi)容時(shí)，最好通過官方賬號(hào)、權(quán)威媒體二次核實(shí)。

AI本是服務(wù)人類的工具，一切技術(shù)并無善惡，自然也可輔助用于正當(dāng)營銷。但唯有讓AI在法律框架與倫理邊界內(nèi)發(fā)展，才能避免技術(shù)淪為消費(fèi)逝者、誤導(dǎo)公眾的工具，真正讓技術(shù)向善，守護(hù)好社會(huì)的溫度與信任。

原標(biāo)題：《微言 | “復(fù)活”茶界泰斗代言、偽造主持人賣貨：AI不可逾越哪些紅線？》

欄目主編：范兵、張?jiān)?題圖來源：新京報(bào)我們視頻截圖

來源：作者：文匯報(bào) 王布米