近年来，AI深度合成技术引发的音视频侵权问题日益凸显，从对企业家雷军的恶搞，到利用AI技术制作张文宏医生的音视频进行商品推广，乃至诈骗活动，这一技术被不法分子滥用的情况愈演愈烈。
此前，有网友通过AI技术模仿刘德华的声音，企图借此吸引流量。对此，刘德华的电影公司迅速发表声明，警告公众不要陷入利用AI语音合成技术伪造刘德华声音的骗局。最近，记者经过深入调查发现，实现AI深度合成音视频的技术门槛其实并不高，甚至在一些电商平台，AI深度合成技术已成为网店盈利的工具，消费者仅需支付数十元，即可定制名人AI深度合成的音视频。
更令人惊讶的是，网络上不仅有大量可供下载的深度合成软件，还有网络主播通过直播教授如何使用这些软件。记者在手机应用商店搜索“换脸换声”，发现众多相关工具，但这些工具的逼真度普遍不高，且场景固定。那么，网店是如何制作出高度逼真的AI合成音视频的呢？
据中国网络空间安全协会人工智能安全治理专业委员会的专家薛智慧介绍，目前网络上存在数十种开源软件和工具，可以实现换声和换脸效果，网民可以自由下载并在个人电脑上安装使用。这些软件虽然属于半专业软件，有一定的技术门槛，但在短视频平台上，已有众多主播在教授如何使用。
针对电商平台使用AI深度合成技术制作并出售名人音视频的行为，法律专家指出，这已构成侵权。相关法律法规明确规定，未经授权，不得深度合成制作发布他人信息。因此，网店接单制作名人视频，应承担相应的法律责任。
北京航空航天大学法学院副教授赵精武表示，国内已经审结了首例AI生成声音人格权侵权案。在该案中，一名配音演员的声音未经授权被AI生成并出售，法院最终认定被告行为构成侵权。这一案例为类似侵权行为提供了法律依据。
对于如何防范AI深度合成音视频侵权问题，专家建议从技术、法律和公众意识等多个层面综合施策。技术上，可以利用AI技术对抗和检测AI，目前已有一些典型的AI技术能够检测图片或音视频是否经过后期加工和合成。法律层面，需进一步完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，并加强执法力度。
平台也应强化相关政策法规的宣贯和执行，做好数据保护，应用技术手段规避AI克隆侵权问题的发生，同时建立健全内容审核和侵权举报机制，及时发现和处理侵权问题。公众也应提高防范意识，避免落入AI合成的陷阱。
赵精武副教授强调，法律并不禁止使用AI合成技术，而是禁止不合法、不合理的使用，尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。公众和从业者应遵守法律法规，合理利用AI技术，共同维护网络空间的健康和安全。
