全国人大代表雷军：深受AI换脸拟声之苦，呼吁治理相关乱象

hwyzw

    央广网·中央广播电视总台报道称，全国人大代表雷军在3月4日对外公布了今年两会提出的5项建议，其中“强化对‘AI换脸拟声’领域违法侵权现象的整治”这一提议格外引人瞩目，这主要是因为雷军本人曾是这一技术的“严重受害者”。

    在去年的国庆长假期间，短视频平台上涌现出了众多以“雷军AI配音”为主题的恶搞视频，这些视频内容涉及了交通拥堵、调休安排以及游戏等多个热门话题。针对这一现象，雷军亲自录制视频，向公众发出呼吁，希望大家停止这种恶搞行为。

    “AI换脸”之扰，雷军苦之久矣

    人民日报报道指出，雷军个人深受“AI换脸拟声”技术的困扰，在2024年国庆节期间，网络上广泛传播了众多未经他本人授权的“雷军语音包”，这些内容涵盖了从调侃到恶意的各种形式，数量庞大得让他难以应对。此外，有人还利用雷军的采访视频片段，搭配AI拟声技术进行商品推广。更有甚者，不法分子利用AI深度合成视频进行诈骗活动，这对雷军的个人形象和声誉造成了严重的损害。

    雷军在建议中提到，随着人工智能（AI）深度合成技术的迅猛进步，这一技术已促使“AI换脸拟声”在电影、广告、社交等多个领域迅速崛起，并因其广受欢迎、传播广泛以及易于引发热议的特点，成为了技术应用中的热点。

    然而，我们亦注意到，“AI换脸拟声”的不当使用已成为违法侵权行为的集中地，此类行为容易导致侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪活动的发生，甚至可能引发难以弥补的大规模形象和声誉损害，进而带来社会治理方面的风险。此外，AI深度合成技术因其素材获取便捷、技术操作门槛较低、侵权主体及其手段隐蔽性较强等特点，给治理工作带来了不小的挑战。

    雷军在视频中强调，AI技术本质上是正面且具有广泛的应用前景。尽管这项技术极大地便利了人们的生活，并催生了众多创新，然而，它绝不能沦为恶搞他人或侵犯他人权益的手段。

    他着重指出，每个人均需对技术运用承担相应责任，携手打造一个既健康又充满活力的网络空间。

    AI侵权为何屡禁不止

    雷军并非唯一，众多知名人士，包括育儿领域的专家李玫瑾、影视界的明星刘德华和靳东等人，亦在不同公共场合提出过对“AI换脸拟声”技术实施更严格监管的呼吁。

    为何对人工智能领域的侵权行为进行监管如此具有挑战性？京联律师事务所的律师张路明指出，这其中的原因相当复杂。

    AI工具的开放性和易获取性使得侵权者能够轻易实施换脸技术，而且部分侵权者还常常借助海外服务器来掩饰真实身份，这无疑增加了执法部门追踪的难度。

    其次，当前的平台审核体系在实时辨别深度伪造内容方面存在困难，特别是语音合成技术的逼真度极高，导致一般用户受“眼见为实”的观念影响，难以进行有效识别，从而增加了执法的难度。

    此外，多方责任界定困难也是“AI换脸”侵权猖獗的原因之一。

    张路明律师指出，“AI换脸”技术引发的侵权问题牵涉到平台、技术开发者以及内容传播者等多方主体的责任。目前，相关法律对平台的责任界定以及技术边界的划分尚不够清晰。在实际司法操作中，对于赔偿经济损失的界定存在一定难度，对违法行为的震慑效果也不够显著。在裁判文书网上，我们可以查找到众多关于AI侵权案件的判决案例，这些案例通常的处理结果是要求侵权方进行道歉并赔偿，赔偿金额普遍在千元上下。

    律师指出，AI侵权案件的判决面临法律体系更新滞后的困境，目前实施的法规，比如《互联网信息服务深度合成管理规定》，其法律效力层级较低，内容较为分散，难以全面涵盖新兴的侵权形式。目前的法律体系主要依据《民法典》等法律法规进行民事责任的追究，但缺乏专门针对AI技术的专项立法。

    律师支招：谨防个人生物信息泄露

    面对“AI换脸”技术的广泛应用，现实世界中我们如何应对？张路明律师给出了几点建议。

    首先，务必保持高度警觉，确保信息的准确性。一旦在视频通话中遇到要求转账的情况，可以请对方执行特定动作，比如触摸面部或眨眼来确认其身份。同时，要留意画面是否出现变形或异常。此外，通话结束后，应主动通过其他方式（例如电话或面对面交流）来验证信息的真实性，以防受骗。

    除此之外，我们应当掌握辨识AI生成内容中存在的瑕疵，以防上当受骗。这包括注意语音中的不自然停顿、面部光影的不寻常变化等异常现象。同时，一旦遇到“AI内容标识”的提示，我们必须提高警惕。

    其次，要严格防范个人生物资料的泄露，对于权限的赋予需格外小心。我们应避免在社交网络中公开展示清晰的高分辨率人脸图像、声纹数据，对应用程序请求摄像头、麦克风使用权限的授权要持谨慎态度，以阻止不法之徒获取公民的个人生物资料及其相关权限。

    在实践操作中，我们能够采用多种身份验证方式，例如结合视频、指纹识别以及短信验证，以此降低因单一生物信息泄露所带来的风险。

    观点：像治理生态一样治理AI

    中国网络空间安全协会下设立的人工智能安全治理专业委员会在2023年10月正式成立，该委员会的成员单位数量接近一百家，这些成员单位包括了我国人工智能领域的领军产、学、研、用机构，同时汇聚了200余位在AI安全治理方面具有高级别专业知识的专家。

    韩蒙担任专委会人工智能生态治理工作组组长，他主张将人工智能视为一个生态系统进行管理，比喻为河道治理，强调通过疏导而非堵塞来促进其健康发展。对于人工智能安全的关注是多维度的，它不仅包括模型的技术层面，还涵盖产品、应用场景（如学习、支付等）以及相关产业（如医疗、汽车等）。人工智能的整个生态系统若要协同运作，必须得到学术界与产业界的广泛协作，共同参与管理，以保证人工智能遵循既定规则与秩序，实现健康且可持续的发展。（半岛新闻客户端综合潮新闻、央广网等）