近年来，AI深度合成技术引发的音视频侵权问题日益凸显，从模仿企业家雷军到伪造张文宏医生的音视频用于带货，甚至有人利用此类技术实施诈骗，社会影响恶劣。
早前，网络上就曾出现利用AI技术合成的刘德华声音，企图骗取流量。对此，刘德华的电影公司迅速发布声明，警示公众警惕这种利用AI语音合成技术的骗局。
记者近期调查发现，制作AI深度合成的音视频门槛并不高。在一些网购平台上，AI深度合成技术已成为不少网店盈利的手段，仅需几十元，就能定制名人音视频。
更令人惊讶的是，这类深度合成技术的学习门槛也不高。记者在手机应用商店搜索“换脸换声”，发现了大量相关工具。尽管部分工具的逼真度有限，但网店制作的音视频却高度逼真。这是如何做到的？
据中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧介绍，目前网络上有许多开源软件和工具可以实现换声和换脸效果，网民可以自由下载并在自己的电脑上安装使用。
薛智慧指出，尽管这些软件多达数十种，但由于调整参数和操作步骤较为复杂，属于半专业软件，因此不为大众所熟知。然而，短视频平台上已有不少主播在教授如何使用这些软件。
那么，网购平台上利用AI深度合成技术制作并出售名人音视频，是否违法呢？专家表示，相关法律法规明确规定，未经授权，不得深度合成制作发布他人信息。这种行为已构成侵权，并应承担相应的法律责任。
中国计算机学会计算机安全专业委员会委员吕延辉提到，《中华人民共和国民法典》明确规定，自然人享有肖像、声音等权益，任何组织或个人利用信息技术伪造都是侵权行为。国家网信办、工信部、公安部联合发布的《互联网信息服务深度合成管理规定》也明确要求，不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。
关于网店使用AI深度合成技术制作名人视频的法律责任，北京航空航天大学法学院副教授赵精武提到，国内已经审结了首例AI生成声音人格权侵权案。在此案中，配音演员的声音未经授权被AI生成并出售，法院最终认定被告行为构成侵权。
面对AI深度合成音视频侵权的泛滥，普通人又该如何防范？薛智慧建议，从技术角度看，可以利用AI技术来检测和对抗AI。当前已有一些AI技术能够检测图片或音视频是否经过后期加工和合成。
吕延辉则认为，防范AI侵权问题需要从法律、平台和公众等多个层面综合施策。法律层面，应完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，同时加强执法力度。平台层面，应强化政策法规的宣贯和执行，应用技术手段规避AI克隆侵权问题的发生，并建立健全内容审核和侵权举报机制。
法律专家也提醒AI深度合成制作和信息发布者，切勿心存侥幸。法律没有灰色地带，任何违法行为都将受到严惩。
赵精武副教授强调，法律并不禁止使用AI合成技术，而是禁止不合法、不合理的使用，尤其是禁止未经显著标识和提示的AI合成信息的发布和传播。
