所有版权归中国经济网所有。
中国经济网新媒体矩阵
网络广播视听节目许可证（0107190）（京ICP040090）
AI换脸、语音克隆……如何面对人工智能技术的滥用？
2025 年 11 月 25 日上午 11 点 13 分来源：中国之声、中央广播电视台
近期，人工智能在多个直播间对演员进行换脸，并在直播过程中假装利用图像推销产品的现象引发关注。然而，这种情况并非特例。中国之声此前报道称，运动员、演员等名人对人工智能改变面孔表示严重担忧。事实上，人工智能换脸技术、语音克隆技术形成的灰色产业链，对个人权益和平台监管构成严重威胁。尽管监管部门已发布相关规定明确要求标识尽管人工智能生成的内容和平台已采取措施加强管控，但仍有不法分子通过各种方式逃避监管。面对技术不断创新和滥用的挑战，我们如何控制换脸、分声AI的无底混乱，真正保护我们的“脸”和“声音”？近日，有网友发现一名演员同时出现在三个不同的直播间，穿着不同的衣服推销不同的产品，而且动作和神态与自己十分相似。后经查明，这三个直播间均为录音、剪屏，或者是提供者窃取了演员之前的直播素材，通过精心构图重塑画面，并在直播间嵌入音频进行模拟。演员团队成员发现网络上流传该假视频后继续举报t。他们一天之内举报了 50 个虚假账户。虽然一些虚假账户已从平台上删除，但其他账户很快以其他形式重新出现。报道称，一些公司正在拦截图像并使用简单的工具来创建虚假内容，但收集证据和提出质疑的过程需要付出巨大的努力。演职人员：我喜欢在凌晨三四点左右发帖，这个时候大家休息一下，创造一个时差。我们发送一封律师函，其中包含侵权活动、产品和相应的公司实体。其实，这只是一小部分。我之前已经处理过大批量的了。围绕人工智能换脸的困惑不仅让名人感到担忧，也让普通人担心，他们的权利有时会因人工智能换脸而受到侵犯。山东省济南市居民陈女士上个月在社交平台上购买了两条裤子，但只收到了一袋小苏打。商家声称，由于货物发错人，双方开始争论。没想到，店主利用人工智能变脸，在社交媒体上发布了一段带有陈先生妻子照片的淫秽视频。陈先生：有争议。如果我对他说了些什么，他就会给我回电话并侮辱我10多分钟。挂了电话后，有录音，我就向家里汇报了。但随后他发布了一段AI换脸的视频，而换脸的是我爱人的。陈先生说，商家通过他的购买记录找到了他在社交平台上的账户。他先是对陈先生发布的视频进行恶意评论，然后注册账户，盗用陈先生妻子的照片，发布淫秽视频。陈先生随后向该平台进行投诉。他们向警方报告了此事，违规帐户最终被封锁。基于人工智能的面部改变技术的滥用不仅限于民事诉讼侵犯肖像权，还延伸至刑事犯罪。此前，江苏省南京市宣武区人民法院审理了一起“AI换脸”诈骗案。付某利用非法获取的超过195万公民个人信息和AI面部修改软件，登录受害人的支付账户，盗取消费者银行卡。南京市玄武区人民检察院副检察官张海月告诉记者，付某利用人工智能换脸软件，通过“人脸识别”登录金融平台上23名受害人的支付账户。其中，5人支付密码及关联手机号码被骗改，1人支付密码及关联手机号码被骗改，1人支付密码及关联手机号码被骗改，购买手机两部，共计15996元。南京市宣武区人民检察院副检察官 张海跃：AI融合技术，生成人摇头、张嘴的动态视频。这样，一些金融视频往往会指导用户何时登录，突破了金融支付平台的防线。在此期间，付先生利用AI换脸，试图破解多家金融支付平台的“人脸识别”认证系统。南京宣武区人民检察院检察官徐佳：他一直在尝试很多平台，但是其他平台有更严格的风险管理制度，这个平台可能存在一些漏洞，他最后成功了。法院随后以侵犯他人个人信息罪、信用卡诈骗罪判处付某有期徒刑四年零六个月，并责令其支付社会福利金15996元，并删除其存储的所有个人信息。人。此外，针对本案中查明的某些金融支付平台的技术风险问题，检方迅速下发法律风险警示文件。金融支付平台的改造已经完成。记者发现，在多个社交平台上很容易搜索到改变人工智能面貌的教程和服务，一些博主正在上传有关如何使用相关软件的提示。在线购物平台为此类软件和服务提供较低的价格。记者还注意到，监管机构已出台措施打击虚假人工智能直播。国家网信办等部门联合发布《人工智能合成内容展示办法》，明确要求人工智能生成的人像视频必须标注人工智能生成，否则面临最高10万元的罚款。然而，许多博客用户将注释隐藏在视频或视频的角落里。直播剪辑或以非常小的字体显示，使消费者难以注意到。中国政法大学刑事司法学院教授谢修先生：基于人工智能的面部修改技术和声音克隆技术形成的灰色产业链是互联网上黑人存在的结果。这是沙灰色产品的典型形式。此类犯罪涉及整个链条，需要系统思考、综合判断。中国政法大学刑事司法学院教授谢修先生：现行刑法可以对事前行为和事后行为进行有效规制。现在的主要挑战在于加强研究证据，准确识别各个环节的“主观知识”，必须坚持全链条打击、强化平台主体责任、追究刑事责任的思路。对拒绝履行网络安全管理义务的平台承担责任。现有的刑事司法体系已经能够对此类技术的滥用形成强有力的威慑。关键是通过严格执法、精准司法，将法律规定转化为现实治理效果。一些平台正在采取特别措施打击基于人工智能的假冒名人走私行为。不过，平台官员表示，识别人工智能违规行为是全行业的问题。黑灰产品通过凌晨发帖、频繁切换账号等方式逃避监控。该公司表示将继续加强治理，严厉打击违规行为。人工智能变革带来的颠覆迫切需要全链条的综合管理和多方利益相关者的协调。对于内容发布者来说，法律利益不能不得超过。无论是盗用明星图片推销产品，还是通过换脸报复普通消费者，其行为均构成违法行为，甚至犯罪。所有技术用户都应该清楚，技术永远不是防止违规的盾牌。平台作为内容传播的重要环节，不能仅仅满足于“应对一个又一个事件”的被动应对，而应该利用科技手段筑牢防线，打击黑灰产品。改变AI面貌的《管理混沌达》是一款涉及技术、法律和道德的游戏。只有出版者自律、平台承担责任、有监督形成集体治理力量，才能遏制技术滥用的灰色产业链，确保技术进步不偏离法治文明的轨迹。我能做到。
（编辑：何欣）