近年来，AI深度合成技术引发的音视频侵权事件频发，从戏谑企业家雷军，到假冒张文宏医生进行商品推广，甚至利用该技术实施诈骗，这一系列事件让公众深感忧虑。
早先，有网友通过AI技术模仿刘德华的声音，企图借此吸引流量。对此，刘德华的电影公司迅速发布声明，警告公众警惕利用AI语音合成技术冒充刘德华的骗局。
记者近期调查发现，制作AI深度合成的音视频并非难事。在一些网购平台上，AI深度合成技术已成为网店盈利的手段，消费者只需花费少量金钱，便能定制名人音视频。
更令人惊讶的是，一些网络主播甚至通过直播教授如何使用这些技术。记者在手机应用商店搜索“换脸换声”，发现众多相关应用。尽管部分应用的逼真度有限，但网店所制作的音视频却能达到高度逼真。
据中国网络空间安全协会人工智能安全治理专业委员会的专家薛智慧介绍，目前网络上有许多开源软件和工具可以实现换声和换脸效果，网民可自由下载并在个人电脑上使用。
尽管这些软件种类繁多，但由于需要调整参数和操作步骤较多，它们对普通用户来说仍有一定技术门槛。然而，短视频平台上已有不少主播开始教授如何使用这些软件。
针对网购平台上利用AI深度合成技术制作并出售名人音视频的行为，专家指出，这已明确违反相关法律法规。根据规定，未经授权，不得深度合成制作发布他人信息。此类行为已构成侵权，并需承担法律责任。
中国计算机学会计算机安全专业委员会委员吕延辉表示，《中华人民共和国民法典》明确规定，自然人享有肖像、声音等权益，任何组织或个人未经授权利用信息技术进行伪造均构成侵权。
北京航空航天大学法学院副教授赵精武指出，国内已审结首例AI生成声音人格权侵权案。在该案中，配音演员的声音被AI生成并对外出售，法院最终认定被告行为构成侵权。
面对AI深度合成音视频侵权的日益严重，专家建议公众提高防范意识。薛智慧表示，从技术角度来看，可以利用AI技术对抗和检测AI。目前已有一些典型的AI技术能够检测图片或音视频是否经过后期加工合成。
吕延辉强调，防范AI侵权需要从法律、平台和公众等多个层面综合施策。法律层面需完善相关立法，明确侵权行为的定义和责任，并加强执法力度。平台则需强化政策执行，应用技术手段规避AI克隆侵权，并建立健全内容审核和侵权举报机制。
赵精武副教授提醒，法律并不禁止使用AI合成技术，而是禁止不合法、不合理的使用，尤其是禁止未经显著标识和提示的AI合成信息的发布和传播。
