[摘 要]作为生成式人工智能的深度伪造技术给社会带来了新的风险与挑战。从类型学上看，深度伪造技术同时引发了基于个体权利谱系的微观法律风险、基于市场经济秩序的中观法律风险和基于国家公共安全的宏观法律风险，并依此形成了多样化和梯次性的法律风险格局。为有效化解风险，各国存在“自下而上型”分散治理模式、“自上而下型”垂直治理模式以及“多方参与型”合作治理模式。我国可通过“软法+硬法+算法”相结合的综合治理模式，实现对前述法律风险的有效防控：在软法层面，完善科技伦理制度，明确科技伦理的实体规范和程序规范；在硬法层面，通过“风险预防”与“风险控制”，强化风险防控的刚性约束；在算法层面，实现从样本数据采集到深度伪造内容发布的全过程技术监督，发挥技术的规范功能。
近年来，深度学习（Deep Learning）技术的迅猛发展推动了人工智能领域的重大创新，作为生成式人工智能的深度伪造①?技术则是通过利用多种神经网络模型来生成、合成文本、图像、音频、视频等内容。随着深度伪造技术的广泛应用，其背后的法律风险也日益凸显。尽管世界各国（地）已经采取了一系列措施来应对这些风险，但现有的治理模式仍然存在一定缺陷。目前学界关于深度伪造技术的治理研究大多聚焦于宏大叙事，缺乏系统、分层、有针对性的研究成果。在此背景下，本文试图厘清深度伪造技术的基本原理与效应，系统分析深度伪造技术的法律风险类型，在考察各国现有治理模式的基础上，从伦理、法律和技术三个维度提出具体的对策建议，以有效防控深度伪造技术带来的法律风险。
在充满“不确定性”的科技时代，[1]任何技术风险的防范首先依赖于对技术本身运作方式和场景的剖析和解构。因此，系统阐明深度伪造技术的基本原理及其应用效应，是有效防控深度伪造技术法律风险的逻辑起点。
从技术演进与创新理论的双重视角来看，深度伪造技术本质是破坏性创新的结果。20世纪40年代，经济学家约瑟夫?熊彼特（Joseph A. Schumpeter）曾提出创造性破坏（Creative Destruction）理论，指出创新是经济增长的内生动力，包括新技术、新产品、新市场等要素，[2]其中技术是创新的关键驱动。在此基础上，克莱顿?克里斯坦森（Clayton M. Christensen）进一步阐释了这一创新理论，将技术创新分为延续性创新（Continuous Innovation）与破坏性创新（Disruptive Innovation），[3]前者是指在现有技术的基础上进行改进或提升，后者是指打破现有的市场和技术，开发出全新的产品，当延续性创新的方式难以有效刺激、满足和服务实践需求时，破坏性创新便应运而生。[4][5]在人工智能领域，“深度伪造”的出现就是深度学习技术从延续性创新到破坏性创新的典型例证。与传统神经网络模型不同，深度伪造技术主要采用生成对抗网络（Generative Adversarial Network，GAN）架构，[6]（Generator）生成器负责生成逼真的样本数据,而判别器（Discriminator）则负责判断生成的样本数据与真实样本数据的区别，在二者相互对抗的过程中，模型性能和学习能力不断得到提升。
具体而言，GAN的破坏性创新在于其处理数据的方式和目标与以往人工智能模型相比具有颠覆性差异。一方面，GAN作为生成模型无需面临传统模型中指数级上升的计算量。由于GAN生成数据的复杂度与数据维度①?呈线性相关，故对于较大维度样本的生成仅需增加神经网络的输出维度，同时，生成模型对数据分布不作显性限制，②?省去了人工设计模型分布这一环节。另一方面，GAN是兼具监督式学习和非监督式学习双重特征的神经网络架构。在模型训练过程中，生成器通过学习训练数据生成新的样本，并与判别器提供的反馈相结合来进行训练，[7]这个对抗过程可以被视为一种特殊的监督式学习，其中判别器的输出被视为监督信号。基于这两方面优势，GAN成为处理大量无标签数据的高效工具，能够在各种任务中生成逼真的样本。在这个意义上，深度伪造不再是对以往深度学习技术的简单改进，而是实现了突破性进展。
由于技术应用的便捷性与伪造内容的仿真性不断提高，深度伪造技术被广泛应用于诸多场景，并同时产生了积极与消极效应。
深度伪造技术在诸多领域都产生了显著的积极效应。在科研领域，深度伪造技术可以帮助科研人员在收集数据之外，还能进行高质量的数据训练，或者通过深度伪造模拟完成一些具有高风险的试验，如利用自动驾驶仿真系统（AADS）完成测试。在教育领域，深度伪造为教育提供了崭新的技术工具，使教育内容能够获得全方位展示，如通过深度伪造使历史人物“重现”，让损毁或消失的建筑（文物）得以“复原”。在文化娱乐方面，深度伪造复刻、重组现实的能力可以丰富影视、游戏在声音和视觉上呈现的效果，提升了内容的趣味性。在医疗卫生方面，深度伪造技术不仅能生成与医学影像无异的数字影像供医生参考，有时甚至可以直接介入治疗和康复的过程。此外，在其他商业领域，如社交网络、电子商务等方面，深度伪造可以为个体（消费者）创造虚拟化身（Avatar）参与各类社交（消费）活动，或创造虚拟主播、虚拟偶像以及在各个平台上生成与之服务相匹配的虚拟形象与用户进行交互等。
虽然深度伪造技术释放了巨大的应用潜力，但技术滥用产生的消极影响同样不容忽视。在私人领域内，利用深度伪造技术仿冒他人身份实施违法犯罪行为的现象越来越常见。在商业活动中，利用深度伪造技术对影视、音乐等作品进行篡改、贬损也是较为普遍的情形。随着用户生成内容（User-Generated Content）逐渐成为互联网内容生产的重要方式，通过深度伪造对原创作品进行二次创作的用户也日益增多。然而，创作行为本身对著作权和市场秩序可能产生的侵害同样不容忽视。这些利用深度伪造技术传播各类虚假信息的行为不仅侵犯了相关主体的合法权益，而且也对社会秩序的稳定不利。
为消弭深度伪造技术带来的消极效应，有必要将技术应用中涉及的法律风险作类型化处理，以便决策主体建立更为清晰的认知模型，降低法律风险防控的决策成本（如图1所示）。
深度伪造技术最早流行的应用场景就是将原始素材伪造生成具有欺骗性的视频、音频、图像等内容，而这些行为会对公民各项人身权利造成威胁。例如，在人脸信息获取方式便捷多样的移动互联网时代，如果行为人在未经授权的情况下通过深度伪造技术获取并使用公民肖像，则可能侵害公民的肖像权。又如，在深度伪造技术的应用过程中，若施害者在获取原始素材时不当干扰公民享有的私人生活安宁与私人空间，侵扰、利用或公开个人隐私，则构成对公民隐私权的侵犯①?。
深度伪造还可能成为侵犯公民财产权利的新型工具，帮助不法行为人实施《中华人民共和国刑法》（以下简称《刑法》）中的各项财产类犯罪。一方面，行为人可以通过盗取他人信息直接实施犯罪活动，如通过伪造人脸信息破解人脸识别密码，盗用虚假身份创建银行账户实施等。另一方面，行为人还可能通过伪造他人不良信息间接实施犯罪活动，例如通过伪造各类不利于受害者的虚假信息对其进行敲诈勒索。由此可见，深度伪造技术的应用一定程度上加剧了公民财产权利遭受侵犯的风险，为各类财产型犯罪提供了空间。
深度伪造技术在应用过程中不可避免会影响个体的信息权益或数据权利等新兴综合性权利，从而给《中华人民共和国个人信息保》（以下简称《个人信息保》）《中华人民共和国数据安全法》（以下简称《数据安全法》）的实施带来挑战。一方面，目前法律规定的“知情同意”规则在具体落实上尚不能满足用户的实际要求，用户在使用与深度伪造相关的应用软件时，可能面临个人信息被不当收集、使用、加工、传输的法律风险。另一方面，在滥用深度伪造技术的场景中，只要伪造内容一经发布和传播，内容中所承载的个人信息和数据即可在网络空间内被随意使用，从而导致个人信息泄漏或数据权益遭受损害的法律风险。
在市场交易活动中，主体适格、意思表示真实以及内容合法是经营主体之间实现有效交易的基本法律要件，但深度伪造技术的滥用则可能对前述正常的市场交易活动造成阻碍。例如，行为人可能通过伪造身份展开市场交易，掩盖主体资格瑕疵或影响交易方的真实意思表示，进而使得交易的合法性问题产生难以预估的法律风险。又如，在金融交易市场上，有的经营主体可能利用深度伪造技术散布伪造的金融交易信息等。这些行为都可能严重危害市场交易安全、破坏市场交易秩序。
深度伪造技术在商业领域的应用为经营者实施虚假宣传、商业诋毁等不正当竞争行为提供了技术手段，进而对《中华人民共和国反不正当竞争法》所保护的市场竞争秩序造成损害。例如，经营者在商业宣传中利用深度伪造技术对商品作出与实际不符的虚假描述，引发消费者误认，或者通过深度伪造技术编造、传播虚假信息，损害其他经营者的商业信誉等，对市场竞争秩序造成更为隐蔽的破坏。一方面，深度伪造技术具有通用性特征，经营者在任意时刻和环境都可利用该技术实施商业诋毁等不正当竞争行为，从而加大了确定施害主体的难度。另一方面，虽然视频已成为当下最能提供可信内容的载体之一，但深度伪造技术却颠覆了视频内容的可信度，由此产生的不正当竞争行为更使得消费者的认知错误在短期内难以纠正，[8]进而大大提高了市场的辟谣成本。
由于通过深度伪造技术进行作品创作往往是基于拼接、替换与合成等方法完成的，并且创作内容与原生内容高度重合，故该技术的使用在一定程度上可能打击原创的积极性，进而破坏市场创新秩序。从实定法上看，深度伪造技术为现行《中华人民共和国著作权法》的实施带来了新的挑战。其一，在“二次创作”的著作权归属问题未有定论的背景下，将具有强大二次创作能力的深度伪造技术广泛应用于内容生产，则无疑会对著作权规则造成冲击。其二，对于利用深度伪造技术进行再创作是否可以提出合理使用的要求问题，不仅涉及衍生作品的利益分配，而且直接影响着市场创新的激励机制。如果禁止提出合理使用的要求，可能会阻碍深度伪造技术在创作领域的应用前景。可见，深度伪造技术的广泛应用也可能在著作权领域引发破坏市场创新秩序的法律风险。
网络空间是传播深度伪造内容的主要渠道，深度伪造技术的滥用可能会危害国家网络安全。可能的情形包括：通过深度伪造将社会事件过度夸张渲染，捏造、歪曲新闻事件中的事实以博取公众眼球、引导社会、赚取用户流量，发布伪造的灾情、险情、疫情等信息，妨碍救助工作的展开，等等。
利用深度伪造的欺骗性实施违法犯罪行为，可引发对《刑法》具体法益的侵害，从而产生对应的法律风险。例如，以深度伪造技术实施或煽动实施国家、破坏国家统一、颠覆国家政权、的行为，可能构成罪、煽动国家罪等罪名；以深度伪造技术窃取、篡改、传播文件或数据信息，可能构成泄露国家秘密罪等①?。
信息时代各国的联系日益紧密，国家在外交方面亦需格外注意防范深度伪造技术潜在的法律风险，避免违反国际法的基本原则。例如，在国际交往中滥用深度伪造技术可能会破坏国际交流的信息环境和国家之间的相互信任，[9]导致国家之间产生误解，从而影响相关国际义务的履行。
为应对深度伪造技术带来的法律风险，世界各国（地）纷纷出台相关政策举措。但由于各地历史文化、法律传统、技术水平等因素的不同，各类治理路径亦呈现出不同特点，且各有利弊。
域外对深度伪造技术的治理主要包括美国模式和欧盟模式两种。其中，美国高度重视市场调节的功能，认为政府作为“守夜人”通常只有在新兴技术对社会造成明显负担后才被动采取回应措施，[10]以避免过严的防控对市场造成不当侵害，故形成了“自下而上型”分散治理模式。该模式遵循“市场自治为主、政府管制为辅”的理念，通过企业自审、技术研发、法律助推等“自下而上”的系列措施实现风险管控。然而，由于该模式过于依赖企业自治，引发了诸多问题。例。
京ICP备14028625号-92
