近年来，人工智能（AI）深度合成技术引发的音视频侵权事件频发，从戏谑企业家雷军到假冒张文宏医生进行商品推广，乃至诈骗行为，这一技术被不法分子滥用的情况愈发严重。
此前，网络上曾出现利用AI模仿刘德华声音骗取流量的案例，迫使刘德华的电影公司紧急发表声明，警告公众警惕此类AI语音合成技术的骗局。
记者近期的一项调查显示，制作AI深度合成的音视频并非难事，甚至在部分电商平台，这一技术已成为网店盈利的手段。消费者只需支付数十元，即可定制名人的AI深度合成音视频。
更令人担忧的是，一些网络主播在直播平台上教授观众如何使用这些技术。通过简单的搜索，记者在手机应用商店找到了多款换脸和变声工具，尽管它们的效果有限且场景固定，但专业网店制作的AI深度合成音视频却能达到极高的逼真度。
据中国网络空间安全协会人工智能安全治理专业委员会的专家薛智慧介绍，目前网络上存在许多开源软件和工具，可以实现换声和换脸效果，公众可以自由下载并在个人电脑上使用。然而，这些软件具有一定的技术门槛，因为需要根据不同场景调整参数，步骤繁琐。
尽管这些软件不为大众所熟知，但短视频平台上已有不少主播在教授如何使用这些工具。专家强调，未经授权，利用AI深度合成技术制作和发布他人的音视频信息，已经违反了相关法律法规。
中国计算机学会计算机安全专业委员会委员吕延辉指出，《中华人民共和国民法典》明确规定，自然人享有肖像、声音等权益，任何组织或个人未经授权利用信息技术进行伪造，均构成侵权行为。国家网信办、工信部、公安部联合发布的规定也要求，不得利用深度合成服务制作、复制、发布、传播法律禁止的信息。
北京航空航天大学法学院副教授赵精武提到，国内已经审结了一起AI生成声音人格权侵权案。在这起案件中，一名配音演员的声音未经授权被AI生成并出售，法院最终认定该行为构成侵权。这突显了AI深度合成技术滥用带来的法律后果。
面对AI深度合成音视频侵权的严峻形势，专家建议公众提高防范意识。薛智慧表示，从技术角度来看，可以利用AI技术对抗和检测AI。当前已有一些AI技术能够检测图片或音视频是否经过后期加工和合成。
吕延辉建议，防范AI侵权需要从法律、平台和公众等多个层面综合施策。法律层面需要完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，并加强执法力度。平台层面应强化政策法规的宣贯和执行，应用技术手段规避AI克隆侵权问题，同时建立健全内容审核和侵权举报机制。
赵精武强调，法律并不禁止AI合成技术的使用，而是禁止不合法、不合理的使用，尤其是未经显著标识和提示的AI合成信息的发布和传播。他提醒AI深度合成制作和信息发布者，切勿心存侥幸，以免因小失大。
