近年来，AI深度合成技术引发的音视频侵权事件频发，从恶搞企业家雷军，到AI制作张文宏医生的音视频用于带货，甚至有不法分子利用此类技术实施诈骗，社会影响恶劣。
早前，有网友利用AI技术模仿刘德华的声音，以此吸引流量，刘德华的电影公司迅速发布声明，警告网民警惕伪造刘德华声音的AI语音合成技术陷阱。近日，记者调查发现，AI深度合成音视频的制作门槛并不高，在一些购物平台上，这种技术已成为网店盈利的工具，仅需花费少量金钱，就能定制名人的AI深度合成音视频。
更令人担忧的是，网络上还存在大量教学直播，教授如何使用开源工具进行AI深度合成。记者在手机应用商店搜索“换脸换声”，发现众多相关工具，尽管部分工具的逼真度不高，但网店制作的AI深度合成音视频却相当逼真。
据中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧介绍，目前网络上存在众多开源软件和工具，能够实现换声换脸的效果，网民可以自由下载并在自己的电脑上安装使用。尽管这些软件有一定的技术门槛，但在短视频平台上，仍有大量主播教授如何使用。
针对这一现象，法律专家指出，未经授权，利用AI深度合成技术制作发布他人信息属于侵权行为。网店接单制作名人视频，已经触犯法律，应承担相应的法律责任。实际上，国内已经审结了首例AI生成声音人格权侵权案，法院最终认定被告方构成侵权，并判决其书面赔礼道歉，赔偿原告损失。
对于如何防范AI深度合成音视频侵权问题，薛智慧表示，从技术角度来看，可以利用AI技术对抗和检测AI。当前已有一些AI技术能够对图片或音视频进行检测，判断其是否经过后期加工或合成。吕延辉则认为，防范AI侵权需要法律、平台和公众等多方面的共同努力。法律层面应完善相关立法，明确侵权行为的定义和责任，加强执法力度；平台层面应强化政策法规的宣贯和执行，应用技术手段规避AI克隆侵权问题的发生，建立健全内容审核和侵权举报机制。
法律专家提醒AI深度合成制作和信息发布者，切勿心存侥幸，法律没有灰色地带。北京航空航天大学法学院副教授赵精武强调，法律并不禁止使用AI合成技术，而是禁止不合法、不合理的使用，尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。
