近年来，随着AI技术不断普及，互联网的“含AI量”飙升，不明来源的内容也加速泛滥。创作者不仅面临原始创意被抄袭的风险，其面容、身体形象等也可能被AI工具剥离，在看不见的地方被流转、交易。AI为人类解放生产力的同时，也大幅降低了侵权行为的技术门槛。如何守住人类著作权、肖像权、隐私权的防线，也成为今年全国两会的热议话题。全国政协委员、导演刘家成认为，若AI生成内容被用于不良广告，将对当事人造成毁灭性打击。他呼吁加强对AI的规范管理，严禁随意替换他人面孔、嫁祸于人。
“太可怕了，视频。声音，口型完全看不出来真假。”2026年2月，演员王劲松发文称自己的形象被某视频账号盗用，“把我AI了”。经辨认，其原始素材来自2020年拍摄的电视剧《冰雨火》，AI换脸后的假王劲松以逼真的声音和画面进行商业推广。“措手不及，我家里人都分不清是不是真是我了。”他说。事实上，此类盗用已形成流水线。据@中国新闻周刊此前报道，某公众号的同内容视频中，不光有“王劲松”，还出现了张国立、唐国强、李亚鹏等多位名人的假形象，均在推荐一家“数字金融企业”。
医疗专家也成为灰黑产的目标。据央视报道，2025年11月，北京协和医院临床营养科主任于康教授发现，自己从未参与录制的视频大量出现在社交媒体上。“这完全是我的形象，声音相似度完全超乎了我的想象。现在技术能达到这个层级，有一点后背发凉。”他感叹。令于康担忧的是，视频造假方兜售的错误商品及错误信息，老百姓一旦相信，会造成更广泛的影响，也让营养学界长期以来的科普努力付诸东流。记者发现，目前，该类视频仍在社交媒体中传播。例如，有视频标注着文字“后悔没早点看到，跟着于康教授喝白醋”，假于康声称靠某种方法“掉了40多斤”，其妹妹也在3个月内掉了32斤。在评论区，有超170名网友留言索要减肥食谱。