

已經(jīng)去世的復(fù)活茶界泰斗被“復(fù)活”做品牌代言?央視新聞節(jié)目的主持人在直播間賣起了“深海魚油”?最近一連串使用AI技術(shù)的違規(guī)廣告營銷視頻,引發(fā)了廣泛關(guān)注。茶界10月14日,泰斗一段由AI生成的偽造已故“茶界泰斗”張?zhí)旄,F(xiàn)身短視頻平臺為某茶企代言的視頻在網(wǎng)絡(luò)引發(fā)廣泛爭議。對此,主持張?zhí)旄5娜速u家屬表示,將通過法律途徑維權(quán)??捎?/p>
用AI復(fù)活逝者,越紅本可視為一種記憶上的復(fù)活“反哺”;但如果未經(jīng)當(dāng)事人家屬允許而用于商業(yè)推廣,被惡意消費的茶界就不僅僅是逝者,還破壞了基本的泰斗社會倫理,更涉嫌違反相關(guān)法律。偽造我國《民法典》等法律法規(guī)明確規(guī)定,主持自然人去世后,人賣其形象權(quán)與名譽權(quán)仍受法律保護。可逾
如今在各短視頻平臺,AI“復(fù)活”已故名人已非新鮮事。2024年歌手李玟在去世八個月后被網(wǎng)絡(luò)博主用AI技術(shù)“復(fù)活”,其他近現(xiàn)代歷史人物被用AI制作出自拍vlog甚至蹦迪的視頻更是屢見不鮮。這些行為不僅讓逝者尊嚴(yán)被商業(yè)利益裹挾,更讓其親人面對形象被濫用的二次傷害。
生成式AI在商業(yè)領(lǐng)域的濫用,會對消費者造成嚴(yán)重誤導(dǎo)。據(jù)央視新聞報道,今年2月北京市海淀區(qū)市場監(jiān)管局查處一案中,某公司不僅通過視頻賬號虛假宣傳其“深海多烯魚油”可治療多種疾病,更用AI技術(shù)偽造央視某主持人形象用于直播間。這種行為精準(zhǔn)利用了部分群體對權(quán)威媒體、權(quán)威主持人的信任心理,大幅降低消費者的警惕性。同時,“有圖有真相”的刻板印象,讓AI偽造形象、合成已故專家代言等行為極具迷惑性,最終破壞了市場消費的信任體系。
從技術(shù)層面來看,如今制作一段AI生成視頻的門檻極低,僅需一段音頻或視頻素材就能進行深度合成。盡管有技術(shù)專家提出,若在源頭嚴(yán)格管理數(shù)據(jù)安全——比如用戶上傳素材時進行人臉、人聲識別,并提示需取得相關(guān)個人授權(quán),可有效減少違規(guī)使用——但大量數(shù)據(jù)審核仍會給平臺帶來一定壓力。
隨著人工智能高速發(fā)展,大量具備內(nèi)容生成功能的人工智能大模型快速涌現(xiàn)。在用戶規(guī)模擴大的同時,人工智能治理面臨的風(fēng)險與不確定性也在上升。對于消費者而言,也需提升自我保護意識:觀察視頻細(xì)節(jié);遇到“名人代言”“權(quán)威推薦”之類內(nèi)容時,最好通過官方賬號、權(quán)威媒體二次核實。
AI本是服務(wù)人類的工具,一切技術(shù)并無善惡,自然也可輔助用于正當(dāng)營銷。但唯有讓AI在法律框架與倫理邊界內(nèi)發(fā)展,才能避免技術(shù)淪為消費逝者、誤導(dǎo)公眾的工具,真正讓技術(shù)向善,守護好社會的溫度與信任。
原標(biāo)題:《微言 | “復(fù)活”茶界泰斗代言、偽造主持人賣貨:AI不可逾越哪些紅線?》
欄目主編:范兵、張裕 題圖來源:新京報我們視頻截圖
來源:作者:文匯報 王布米