演员吴越在微博上愤怒指责有人利用AI技术仿冒其形象和声音，制作虚假广告进行带货。不久后，相关视频账号被封禁。近年来，不少名人及其家属都遇到过类似问题，比如“演员靳东”、“导演饺子”、“全红婵哥哥”、“刘欢妻子”等高仿号层出不穷，这些账号下方往往挂着卖货链接。随着人工智能技术的发展，图像伪造和口音模仿变得更加逼真，让人难以分辨真假。
根据《民法典》，未经权利人同意擅自使用其形象进行商业推广可能构成侵犯肖像权。假冒名人或其亲属身份进行带货，导致当事人社会评价降低，也可能构成名誉侵权。此外，通过AI仿冒公众人物进行直播带货，在商品与公众人物之间制造虚假关联诱导交易，侵害了消费者的知情权，情节严重的还可能触犯虚假广告罪、诈骗罪。《互联网用户账号信息管理规定》等法规也对名人高仿号进行了规制。
尽管法律规定明确，但高仿号依然盛行。主要原因是造假成本低且工具易得，使得造假者可以迅速批量炮制并规模推广。虽然各平台也在治理，但往往跟不上账号的繁殖速度，等到下架禁言时，这些人已经赚得盆满钵满。这种恶性循环使仿冒名人成为一大灰色产业。
要解决这一问题，不能只依赖明星个人的抗议。首先需要强化源头治理，督促平台切实履行内容审核义务，不得借虚构演绎、AI生成、营销等标签规避网络生态治理要求，从根本上阻止虚假人设类短视频的上传发布。同时，细化深度合成内容管理规定，明确商业场景下AI仿冒行为的处罚标准，大幅提高违法成本。毕竟，网络空间也是公共文化空间，铲除网络骗子生存的土壤是每个人的责任。
技术是一把双刃剑，应用和管理都需要谨慎。目前我们每个人能做的是，在上网时多一分克制，在网络消费时多一分理性，保持警惕，才能避免掉进陷阱。