定制换脸只需一杯奶茶钱，AI换脸成困扰网友的利刃

hwyzw

    定制换一张脸的费用究竟几何？其实——仅需花费一杯奶茶的价钱。在众多网络平台上，此类换脸服务随处可见，仅需9.9元，便可迅速获取一个难以辨识真伪的换脸效果。

    随着AI技术的迅速演进，有关（深度伪造）的讨论也愈演愈烈。

    相关受害者包括全球知名歌手泰勒·斯威夫特、跨国企业高层管理人员、韩国未成年群体，以及今年春节期间因AI配音技术而广受关注的雷军。在2024年国庆节期间，未经授权的雷军AI语音合成和换脸视频在网络上迅速传播，引发网友戏谑：“国庆假期七天，却因雷军被骂了八天。”

    近期，“雷军指出AI换脸和拟声技术成为违法行为的重灾区”这一话题迅速攀升至微博热搜榜第二位，引发了超过1.4万次的讨论，这一现象充分表明，这一技术正逐渐成为众多网友心中的棘手问题。

    雷军曾这样表达：“起初我以为网友们对此乐此不疲，即便拿我开玩笑，我也能忍受，然而内容质量低劣，数量又多到让人防不胜防，甚至还有网友开始抱怨。”

    深度伪造带来的各类风险，该被重视起来了。

    1. 震惊一时的香港最 大AI诈骗案

    震惊一时的香港跨国公司诈骗案，曾经描述过如此戏谑的一幕。

    Arup香港分公司的某位员工，某日意外地收到了一封会议通知邮件，该邮件邀请他出席一场由公司总部高层领导发起的关键性会议。

    最初他心中存疑，然而当他步入会议室，目睹一张张熟悉的高层领导的面容，他的警惕之心逐渐减弱。其中，包括公司的首席财务官在内的数位高层不仅加入了会议，而且纷纷打开了视频和麦克风，在发言中他们透露了一宗秘密的收购事件。讨论结束后，这些高层领导还向下级管理人员分配了具体任务。

    该员工在会议期间并未发表意见，然而，他已完全认可了会议内容的真实性。会议结束后，他立刻收到了邮件和即时通讯的消息。在这些信息中，一位领导指示该员工需将2亿港元（约等于1.8亿元人民币）分别划入五个不同的账户。

    这位员工依照指示行事，然而五天之后，在与实际总部进行交流时，他惊觉自己遭遇了骗局。

    令人震惊的是，在这场充满神秘色彩的会议中，这名员工竟然是唯一一位真实的人类。而那些所谓的“高管”，实际上全都是犯罪分子根据他们在公开平台上发布的视频信息，利用技术手段创造出的虚拟数字人。这些数字人竟然达到了以假乱真的地步。

   

    此事距今已有整整一年。在这段岁月里，对于人工智能领域来说，技术的进步呈现出指数级的迅猛增长态势。

    由此引发的犯罪频率也越来越高。

    2025年1月，银川一家建材企业的负责人张经理接到了一通自称是“领导”的视频通话，对方要求他立即进行转账。由于AI换脸技术制作出的视频极其逼真，张经理先后两次共转出了20万元。《法制日报》最近的一篇报道中提到，天津的李先生在AI合成的“领导”视频的诱导下，被骗转账高达95万元，幸运的是，警方和银行迅速联动，成功冻结了其中的83万元。山西一犯罪分子竟借助人工智能技术进行换脸操作，成功以他人身份注册了虚假企业，并开具了价值超过42万元的增值税发票。

    一面是不断高发的诈骗案例，一面是消费者浅薄的防范意识。

    “有没有高手会AI换脸呀？”

    凤凰网科技在查阅众多平台资讯时发现，众多用户对于换脸技术所涉及的风险认知不足。在某个社交平台关于“AI换脸服务”的讨论帖中，众多回复均表现出一种随意态度，直言：“视频、照片，任君所欲，随意更换。”在一家二手交易网站上，用户只需上传一段时长不超过5秒的视频和一张五官清晰的图片，支付9.9元便可得到定制的换脸视频。此外，仅需2.9元便可轻松获取一款换脸工具，使得这项技术变得容易上手。加之专业开源软件与网络教程的广泛传播，换脸技术的滥用呈现出全民化的趋势。然而，这种技术普及背后，却暴露了法律监管与犯罪手段之间存在的严重不平衡。

    法律对技术的规范与科技发展的步伐存在一定的时间差，这导致监管领域出现空白。以2023年杭州互联网法院审理的虞某案件为例，涉嫌者运用AI换脸技术制作了视频，非法获利，最终被判赔偿6万元并公开致歉。

    凤凰网科技经过咨询相关领域的法律专家，了解到尽管现有法律法规和管理条例已经明确规定禁止使用信息技术进行肖像伪造，并且动态影像同样得到了法律的保护。然而，在责任划分的某些细节以及赔偿金额的计算标准上，尚缺乏明确的量化规定。而且，由于相关立法尚不完善，所受到的惩罚与非法所得之间并未形成正比关系，这无疑为犯罪分子提供了更强的作案动力。

    技术滥用已经催生了专业化的犯罪网络，诈骗团伙借助社交平台，精确获取目标人物的生物信息，并通过云端合成技术制造出仿真的声音和影像，进而实施所谓的“数字分身”欺诈行为。

    当然，AI换脸也并非真的无懈可击。

    现有技术中仍存在一些可被察觉的生理缺陷，比如缺少微表情、光影效果不协调、皮肤显得过于光滑、语音缺少停顿以及语速过快等，这些技术上的不足为公众揭示了识别上的关键漏洞。

    2. 平台该不该承担更大的责任？

   

    AI技术的广泛应用大幅降低了内容创作的难度，然而，这也使得网络空间弥漫着浓厚的AI气息。特别是部分AI产品日益加剧的幻觉现象，导致虚假信息的蔓延，使得用户稍有不慎就可能陷入难以分辨真伪的境地。

    当前，这类现象在短视频领域表现得尤为明显，众多违反常理和道德准则的AI生成内容正对互联网环境造成污染，例如“甄嬛品尝汉堡”、“猫咪狗狗开口说话”、“AI版雷军”等，这些内容借助算法推荐迅速传播，严重挤压了优质内容的生存空间。

    更为令人忧虑的是，一些用户对AI的“一本正经地胡说八道”表现出了盲目的信任。尤其是那些缺乏辨识能力的老年群体，他们正受到各种“赛博乖孙”的操控。有网友反映，自己的奶奶最近总是对着手机屏幕发出“哎”的声音，仔细观察后才发现，原来视频中的是手持元宝，一个接一个地称呼奶奶的AI生成的乖孙。

    但这一切，真的没有遏制的手段吗？

    在此之前，《人工智能生成合成内容标识办法（征求意见稿）》对该问题已经制定了具体的规范要求。

    在内容生成过程中，需在指定区域易于识别的标识，以便用户迅速识别信息来源为AI自动生成。在信息传播阶段，平台肩负着更重的责任，需具备识别并警示AI内容的技能。2023年，抖音颁布了《关于人工智能生成内容的平台规范》，规定创作者需自行标注AI生成内容，违反规定者将受到相应的处罚。

    凤凰网科技还了解到，另一内容平台的运营团队对AI生成内容持有谨慎立场。“从生态维护的视角来看，AI生成内容确实存在较大风险；然而，从提升用户活跃度的角度来看，AI技术显著降低了内容创作的门槛，进而催生了一批新账号的涌现。”因此，该平台对于AI内容的态度一直处于摇摆不定之中。

    在面临突发事件的AI谣言时，平台理应主动肩负起辨别和消除这些谣言的重任。

    近日，有关某男星连续七天赌博输掉10.3亿元流动资产并以此抵押的消息在微博上广泛传播，对此，微博首席执行官王高飞（网名“来去之间”）于3月10日晚特意进行了澄清，他指出，经过AI分析，该传闻缺乏确凿证据，其主要信息来源为匿名账号和营销号，存在明显动机和逻辑上的缺陷。紧接着，在3月11日当天，周杰伦的经纪公司——杰威尔音乐通过其官方微博平台，发布了一则声明，对相关传闻进行了正式的澄清。

    AI换脸技术带来的社会波动正在重新界定人与技术共存的界限。随着生物特征信息沦为仅需9.9元即可交易的商品，潜藏其中的系统性风险已远远超出了个人防范的能力范围。众多观点普遍认为，对其进行规范的任务艰巨且漫长。

    数字文明的真正挑战，在于我们是否能在代码构成的虚拟世界中重新确立人文价值的基准。这并非仅仅是安装一个技术修补程序，而是要将技术向善的核心理念转化为法律条文、算法规范以及公民的自觉意识。只有做到这一点，我们才能在日益壮大的数字社会中，维护住人们的道德底线。

    本文系凤凰网投资界合作伙伴授权发布，本平台仅负责信息存储。如遇疑问，请拨打电话联系凤凰网投资界解决。