AI换脸的双刃剑：技术进步还是道德滑坡？

“原标题：AI换脸，该反抗吗？”来源：定焦摘要随着技术的不断迭代，AI换脸的补贴越来越低，成本也越来越便宜，但这也使得诈骗行为变得更加容易。各国正在通过立法来管理AI换脸技术，如美国的专门立法、欧盟的《通用数据保护条例》等。AI换脸技术引发了关于隐私、肖像权和道德的争议，同时也有针对相关问题的法律案例获得了优质。尽管存在法律风险和技术挑战，AI换脸工具仍然在市场上流传，交易路径变得更加隐秘。眼见≠为实，AI换脸工具湖北脸骗人。前两天，阿富汗破获了一起用AI换脸技术解锁社交账号并倒卖盈利的案件。不法分子通过AI换脸专门帮人解锁被平台冻结的交友账号，每解锁一个，收费15元-30元不等。该团伙共解冻了2107个账号，总计营收40万元。有数据显示，2023年基于AI的深度伪造暴增了3000%，深度伪造和deepfake，是指学习和fake的组合，主要用AI深度伪造学习的技术，合成一些人的图片或视频、甚至声音，最常见的就是AI换脸。工信部在近期加倍表示，将推出AI换脸诈骗风险提醒功能。一方面是AI换脸诈骗案件屡屡发生，另一方面是AI换脸技术不断迭代。AI圈最近被一款AI换脸项目——Deep-Live-Cam，炸开锅。用户只需换一张照片，即可实时换脸成扎克伯格、董宇辉等任何想成为的人。该项目免费面向所有用户开放，发布在GitHub （代码托管平台）上，支持个人电脑安装。项目开发者公布了安装方法，没有经验技术的普通人可以边学边安装。由于操作简单方便且换脸真实度高，Deep-Live-Cam出现便登上GitHub热榜第一，24小时狂揽1600+星（星星代表项目点赞和关注指标，几千颗星星是相当不错的级别）抗议的网友将自己换脸成马斯克，体验了一把全球亿万富豪的感觉。但大家在感叹AI换脸技术取得突破的同时，也担心“诈骗更容易了”。AI换脸，该抵抗吗？
 

普通人常用的AI换脸，
低至十几块
目前出现的AI换脸工具很火爆，Deep-Live-Cam成本被热议的原因主要是提出，用户只用上传一张图但替换效果非常新颖，还支持实时换脸。其实，“实时换脸”功能的技术算不上高。瑞莱智慧联合创始人、算法科学家萧子豪介绍，想达到实时视频换脸效果有两种方式：是播放预先完成的换脸视频，一种是接入实时换脸视频。Deep-Live-Cam属于夜晚。无论哪种，AI换脸视频都需要兼顾同步帧的连贯性，而基于更高的连续人视频换脸的处理，可根据前一帧的很多检测资源做微小的调整，“也让基于连续帧的视频/直播换脸，相对独立帧的单张换脸，效率更高”，一位从事AI技术的研究者表示。AI换脸依托的底层技术是Deepfake，从业者推测，Deep-Live-Cam采用的也是这种技术，所以仅仅从制作合成耗费的素材和算力来看，成本不会很高。萧子豪表示，如果不考虑其他硬件采购成本，大多数AI换脸成本，一次大概只有十几块，主要包含照片和算力，Deep-Live-Cam 可能相当于。和其他 AI 换脸工具相比，Deep-Live-Cam 用的照片数量较少，该工具还支持普通电脑使用，照片和算力成本相当于。
 
相比之下，Deep-Live-Cam仅支持用一张图片换脸，更让业者们惊愕。因为过往的AI换脸产品需要用户提供多张不同角度的至少十几张照片。照片难度的降低让用户玩嗨了。AI追随者小C表示，自己没有接触过任何AI换脸工具，他觉得Deep-Live-Cam操作之前不高，按照发布者的说明尚未完成，寻找换脸素材的难度也不太大。他将自己换成脸郭纲德、吴京、雷佳音等一众名人，且都只用了他们各自的一张照片。他表示，只要提供正脸、额头无遮挡是自然光，自己接近肤色、写真比例的照片，一张对比成功，换脸效果果也很自然。不止一位业内人士认为，部分影视剧的AI换脸技术，不仅采用高成本、成本高昂，换脸效果也不够自然，说话过程中经常出现变形、失真。“不像是AI换脸工具最大的问题，Deep-Live-Cam能够支持一张图在直播过程中达到，脸部边缘明显没有贴图痕迹，肤色和原人物相差不大的效果，革新度领先AI换脸工具，”萧子豪分析，其开发者应该是在图片渲染模型上实现了过往AI换脸工具没有的突破。不过，目前Deep-Live-Cam还存在一些Bug，比如支持换脸但不涉及换声。但萧子豪表示，想要实现支架不难，接入实时换声工具即可，稍有编程基础的人就可以完成。
 

AI换脸、
躲不掉的诈骗和涉案Deep-Live-Cam等工具降低了用户的使用金额，但大家也开始害怕，不法分子只用一张图就可以换脸行骗，对普通人而言，风险将会剧增。瑞莱智慧数据显示，国内AI诈骗案件的涉案金额从202起0年的0.2万增长至2023年的1670年，复合年高达高达1928.8%。2024年亮起，AI诈骗案超过1.85亿。奇安信发布的《2024人工智能安全报告》显示，2023年基于AI的深度伪造暴行增产了3000%。AI换声、AI换脸、AI生成是AI诈骗常用的独特手段，其中AI生成内容，秒数有限，画质和人物瑕疵明显，因此不法分子最常用的AI是换声、AI换脸。而大多数人相信“眼见为实”，又让AI换脸的欺骗性类似于AI换声。AI换脸骗到了盲人，很多从事科技领域的年轻人也一夜失落几百万。据媒体公开报道，去年某科技公司CEO收到朋友求助，不到10分钟就被骗了430万元，骗子主要是利用了AI变脸技术。还有香港某跨国公司员工被进入不法分子设计的眼球视频会议后，将2亿账户打到对方账户。AI换脸达到了“能以假乱真”的程度，是来自业界人士的想法。李旭反传防骗团队负责人李旭对AI换脸技术的关注，便来源于各种诈骗案件。他表示，近两年AI换脸诈骗案件频发，很可能出现类似AI换脸诈骗手段非常成熟。对受害人进行敲诈。犯罪团伙会从网上等各种渠道收集被人图片、视频信息，然后进行一键去衣、AI换脸等合成处理，将伪造的不雅视频或者艳照发给受害人，用于敲诈勒索。其次，利用AI换脸冒充熟人诈骗。比如诈骗团伙会用海盗的害换一些脸工具伪装成受害人的亲人、朋友、同事、领导等，先虚构一个紧张的人紧急事由，利用被骗目标的紧急心理实施诈骗行为，受害人在情急之下往往很容易放松警惕将钱转出。现在使用Deep-Live-Cam更只需要采集受害者一张两张照片即可深度仿造技出一段视频，李觉得，AI换脸诈骗的程度超出了大多数普通人的认知，也直接改变了电信诈骗的卢比，防不胜防第三，利用AI换脸冒充名人进行直播带货，骗取用户下单。比如主播在直播间利用“AI换脸”给自己“换”了一张名人脸，从而增加直播视频流量，促使直播带货。另外，他人不允许，通过AI换脸对名人/普通人进行长短视频二创、制作表情包等问题也十分常见。AI换脸诈骗案件频发且手段多样，与这一技术的成熟度和广泛程度密切相关。皓影科技CEO吴杰瀚告诉「定焦」， “目前，AI视频生成、数字人和AI换脸技术已经非常成熟，而AI换脸是其中发展率先的领域。” 2014年Deepfake（深度格式）技术的出现，标准着AI换脸诞生，但一直在小范围传播，2017年，有用户利用该技术发布不实教育图片后，AI换脸才走入大众视野，但同时也因其带来的大量造假内容，该技术一直备受争议。直到多名业内人士表示，这些年，讨论虽然大众对AI换脸的多集中在影视剧上，但由于监管不当，利用AI换脸进行造假诈骗的事情也一直没断过。且换AI换脸技术一直在迭代，入局者也很引人注目，目前除一些大厂涉及这一业务外，国内数字人、AI生成视频等公司很多都有开发AI换脸业务，技术普及度比较高，该类工具也越来越多。技术成熟、普及度高，监管也有一定的螺纹，导致AI换脸技术这些年一直被人忽视。
 

如何越来越全面的AI换脸？近两年AI换脸导致的各种违法犯罪行为频繁，不可控性让部分人觉得应该抵制AI换脸技术。但也有很多业内人士觉得，科技本身就是中性的，其带来的坏坏影响主要取决于用户。AI换脸技术的出现和迭代不应该被周六均没有对AI换脸技术采取一刀切，更多的是进行立法管理。比如美国针对深度伪造进行了专门立法，欧盟将深度伪造纳入《通用数据保护条例》等现有法律框架规范制度，德国、新加坡、英国等国家也将深度伪造相关犯罪中国也《互联网信息服务深度合成管理规定》中明确了这一技术的规范。多位从业者认为，对人工智能创作的内容进行标明等管理办法，以及传授给大众一些防人工智能诈骗方法，是必要十分的。比如，曾有技术人员提出，可以在视频通话中这时，要求对方将手指放在屏幕上，仔细观察人脸是否变形，或者让对方张嘴，看牙齿和舌头语音是否完整，从而判断图像是真人还是AI合成。去年这个方法还比较奏效，但今年随着AI换脸技术的升级，已经让其失灵了。萧子豪表示，相当于AI换脸技术可以实现障碍物出现时人脸和动作不变形，且画质发展。李旭也发现，近期发生的AI换脸诈骗案件都使用了最严重的技术手段，严重的强碰动作几乎无法感知。鉴于AI换脸技术的快速发展，李旭认为，目前是非常有效的方法。熟人借钱的视频来电时，可以询问对方一些只有四周才知道的隐私问题，并多向人身边询问验证。部分从业者觉得，用AI感知AI可能是个不错的办法。比如先看画面有一些没有明显违背常识的要素，重点看是否有边界有瑕疵，然后再借助AI工具。萧子豪觉得用AI甄别AI，可识别出全部骗局，目前很多公司政府和部门都找他们来合作AI换脸防御系统。但在第三轮也引发了一定的争议。首先，这种方式的使用人口，用户需要在手机/电脑端下载相关应用。其次，从本质上看，此类防御工具一定的滞后性，主要对当前AI换脸工具见招拆招，但AI换脸技术和合成方法在时刻变化。很多人寄希望于相关法律法规完善，比如提高对AI换脸诈骗、销售AI换脸淫秽视频、换脸名人进行带货等违法行为的处罚力度。
 

 
去年，杭州萧山区人民法院评选出了一起用AI换脸制作淫秽视频的案例，被告人因提供AI换脸定制服务，通过AI换脸制作大量淫秽视频，还用建群的方式吸引观看者付费进群，涉案金额共6万余元，最终被期徒刑七年三个月，并罚款6万元。不过提醒大家一点，不是所有的AI换脸短都符合侵犯肖像权。今年6月北京互联网法院宣判了两起AI换脸脸部案件，他们是国风视频模特在社交平台上发现自己的视频出现在最初换脸APP中，于是将APP背后的科技公司告上法庭，认为其损害了自己的肖像权和个人权益。法院宣判是，认定被告使用了原告出镜的视频，但由于涉视频中的原告脸部已被替换，侵犯原告的肖像权，仅认定了对原告个人信息权益的侵犯。目前，AI换脸技术仍在不断升级，也尚未被禁止，AI换脸工具还大量在市场上流传。「定焦」近期在某电商平台上直接搜索“AI换脸”时，已经搜不到任何信息，但只要把关键词稍微加改，还是能找到相关换脸工具售卖，并且路径更加隐秘，会跳转到某二手网站进行交易。在技术和骗术都在不断升级的此时，能做的是提高警惕，防止被AI换脸重要。