详情

　　“你是温峥嵘，那我是谁？”

　　演员温峥嵘本东谈主浏览短视频时，偶然发现“我方”正在直播。她在驳倒区建议质疑后，被拉黑并踢出直播间。而对方仍在用“她的脸”直播带货。

　　温峥嵘近期遇到的“冒牌直播”事件，是AI换脸技能花消的典型写真。多个直播间出现冒用温峥嵘形象的AI换脸带货活动。其团队日均举报50个假冒账号并发出讼师函，可作秀账号仍屡禁不啻，令她堕入“很难诠释我是我”的窘境。

　　这一表象并非孤例。《法治日报》记者近日窥察发现，AI换脸与声息克隆技能已形成一条涵盖教程传播与定制工作的齐全灰色产业链，对个东谈主权柄、平台监管等均组成严重要挟。

　　换脸技能被用于罪犯坐法

　　11月5日，温峥嵘在短视频账号进行3次以“我是确切温峥嵘”为主题的直播，禀报近期被AI伪造、换脸直播带货的阅历。

　　此前，已有多位名东谈主深受AI换脸困扰。主执东谈主李梓萌的AI伪造形象出当今直播间，造作宣传深海鱼油“能治病”；奥运冠军全红婵的声息被AI克隆，用于售卖土鸡蛋；大夫张文宏被换脸，其形象被用于在直播间售卖某款卵白棒家具，销量已过千。张文宏自述：“这些假的合成信息就像蝗灾相似，一次又一次发生……”

　　11月14日，中央网信办官方账号发文深入，有汇聚账号哄骗AI技能仿冒公世东谈主物形象，在直播、短视频等要津发布营销信息，误导网民，涉嫌造作宣传和汇聚侵权，严重龙套汇聚生态，变成不良影响。网信部门严厉解决一批罪犯违章汇聚账号。同期，督促网站平台发布不停公告，举一反三，开展集划算帐整治，咫尺已累野心帐有关违章信息8700余条，解决仿冒公世东谈主物账号1.1万余个。

　　AI换脸技能的花消致使延迟至刑事坐法范围。2024年10月，江苏省南京市玄武区东谈主民法院审理的一皆案件中，被告东谈主符某作歹取得195万条公民个东谈主信息，哄骗AI换脸软件生成动态东谈主脸视频，顺利龙套某金融支付平台的东谈主脸识别认证系统，登录被害东谈主的支付账户，盗刷银行卡进行破钞。法院以侵扰公民个东谈主信息罪、信用卡诱拐罪数罪并罚，判处符某有期徒刑4年6个月。

　　2024年，内蒙古鄂尔多斯别称破钞者遇到AI换脸诱拐，几乎亏损40余万元。视频通话中，作歹分子哄骗AI换脸技能冒充该破钞者一又友，以资金盘活为由，诱拐其转账40余万元。好在警方介入实时，未变成骨子亏损。

　　有关教程和工作遍布汇聚

　　记者窥察发现，AI换脸与声息克隆的教程及工作在汇聚平台运动。记者在种种酬酢平台以“AI换脸”“声息克隆”等为过失词搜索时，诚然平台会弹出官方辅导，提醒用户使用需“正当合规、提神永别”“切勿轻信、注意诱拐”，但有关内容仍在汇聚空间无数存在。

　　比如，有终点数目以“AI科普”为标签的账号在各平台公开共享换脸教程。这些视经常繁介意列出可探询的网站地址，逐渐演示操作历程，并附有技能细节阐述，如建议用户“尽量保证替换素材与原素材的东谈主物尺寸一致、画面干净无装束”，以保证生成成果。

　　字据教程指引，记者登录有关网站考证发现，部分平台照实免费提供AI换脸或声息制作工作，支付几十元购买会员后，还能解锁去水印、高清放大等进阶功能。

　　除公开教程外，更为荫藏的往复正通过网盘渠谈进行。

　　记者不雅察到，有一些打包出售的“齐全教程”价钱低至8元，且卖家宣称“莫得市面主流软件那么多放置”。这类教程频繁包括云霄职责流地址府上和介意的操作阐述，以及图片去AI化、跳舞手脚师法、东谈主脸精修等推广功能与有关的辅导词教诲。

　　声息克隆类的教程售价低至9.9元，并在宣传中强调“相沿任何形象和声息”。记者磋商商家了解到，唯有购买此安设包，无需注册会员即可免费破解使用对口型、克隆音色等功能。据商家描绘，只需提供一段音频文献，系统便不错在无身份认证的情况下进行克隆，单次相沿30秒音频，且不限次数。

　　为考证此类教程的骨子应用成果，记者购买了一份标价8元的换脸教程。该教程包含一段5分钟的视频教程和两份笔墨材料，明确提供了平台探询汇聚、新用户福利信息和操作景况，并极度注明“对敏锐词放置一丝”“生成内容无水印”。

　　记者发现，该平台提供多种功能模板，内容涵盖替换视频东谈主物、给东谈主物指定部位更换衣物、对图片中东谈主物体格部位进行放大或动态处理等不同功能。每个模板均配备相应的辅导词教诲和介意操作景况，用户只需上传参考图片、视频或待处理素材，恭候一段时间即可生成内容。

　　记者实测使用一段时长5秒的视频进行换装操作，约3分钟后顺利生成视频。画面中，东谈主物手脚与神志归附度很高，被装束部位的服装贴合成果也较为当然、精确。

　　记者提神到，该平台内容生顺利能领受运行时长计费模式，每秒收费0.2臆造币。教程中附有专属邀请码，使用者可凭此免费领取1000臆造币。平台还缔造了臆造币奖励机制：每天登录施济100臆造币，邀请新用户可获500臆造币。

　　更换表述可绕过审核机制

　　电商平台上，有商家为AI换脸工作披上伪装售卖。

　　在某购物平台，记者顺利搜索“AI换脸”，袒露无任何扫尾。但记者不雅察到，有部分商家会在商品笃定页用脸色象征隐喻其能提供换脸“工作”；也有商家以“啥都能作念”“不限视频内容，懂的都懂”为宣传语，暗意私聊客服了解商品笃定。

　　记者了解到，10秒换脸视频报价从15元至300元不等。举例，有商家建议，20秒内视频(包括仅生成音频的)长入收费80元；部分商家还推出298元200分钟生成时长、490元年卡等套餐，快活“一双一教诲指导”，宣传语中不乏“让一又友客户难辨真伪”等带领性表述。多数商家仅核查素材内容，对用途与起原未作甄别。

　　为深入了解AI器具本身的内容审核机制，记者对用户使用较多的10款文生图、文生视频AI器具进行实测，以对明星“一键变脸”等指示测试其技能范围与审核才智。

　　扫尾袒露，仅一款AI器具明确拒却生成确凿公世东谈主物臆造图像。部分应用在通俗操作后，即可生成高度传神的明星造作内容。

　　举例，“即×”起先会以“触及肖像权”为由拒却明星换脸、脚色指示，但记者遴选替代选项后仍可生成；“豆×”“文×”等顺利实施指示且无权贵风险辅导；“通×”“天×”等仅在生成内容旯旮位置标注不显豁的“AI生成”字样。

　　值得提神的是，部分AI器具在初度收受到触及确凿东谈主物的指示时会给以拒却，但通过遴选平台的替代选项或更换表述，用户仍可绕过启动放置，结束图片或视频生成。

　　有平台方公开回复称，AI内容侵权识别属于行业性技能穷苦，坏心仿冒账号在执续与平台进行技能抗争，将来会执续加大技能参加，积极应酬挑战，选藏创作家、商家及破钞者的正当权柄。

　　记者 赵 丽 实习生 王艺霏

　　起原： 法治日报法治经纬