近年来，AI深度合成技术在网络上引发了诸多争议，从对企业家雷军的恶搞，到利用AI制作张文宏医生的音视频进行带货，甚至有不法分子借此进行诈骗活动，这一技术的滥用现象愈发严重。
去年，就有网友利用AI技术模仿刘德华的声音，以此吸引流量。刘德华的电影公司迅速发表声明，提醒公众警惕这种利用AI语音合成技术的骗局。最近，记者的调查显示，制作AI深度合成的音视频并非难事，甚至在一些购物平台上，这种技术已成为网店盈利的工具。只需花费少量金钱，就能定制名人的AI深度合成音视频。
那么，这些高度逼真的AI合成声音和换脸视频是如何制作的呢？记者发现，相应的深度合成软件在网络上并不难找到，甚至还有一些网络主播开设直播，教授网友如何使用这些软件。
在手机应用商城搜索“换脸换声”，会出现大量相关工具。然而，记者发现这些工具大多设定了固定的场景，且效果逼真度不高。那么，网店是如何制作出高逼真度的AI合成音视频的呢？
据中国网络空间安全协会人工智能安全治理专业委员会的专家薛智慧介绍，目前网络上存在许多开源软件和工具，可以实现换声和换脸的效果，网民可以自由下载并在自己的电脑上安装使用。
专家表示，尽管这类软件在网络上多达数十种，但由于不同的场景需要调整相应的参数，步骤较多，属于半专业软件，具有一定的技术门槛，因此并不为普通网民所熟知。然而，记者发现，在短视频平台上，有许多主播正在教授网民如何使用这些软件。
那么，在网络购物平台上使用AI深度合成技术制作并出售名人的音视频，是否违反了相关法律呢？专家指出，相关法律法规明确规定，未经授权，不得深度合成制作并发布他人信息。网店接单制作名人AI视频的行为，已经构成侵权，并应承担相应的法律责任。
北京航空航天大学法学院副教授赵精武指出，国内已经审结了首例AI生成声音人格权侵权案。在这起案件中，一名配音演员的声音在未经授权的情况下被AI生成并对外出售。法院认为，我国民法典已将自然人的声音视为一种人格权益，具有人身专属性，因此认定被告的行为构成侵权。
不仅是名人，普通人甚至动画形象，如果未经本人或版权方同意，就被AI合成制作音视频，同样可以判定为侵权行为，并应承担法律责任。随着相关技术的普及，我们该如何防范AI深度合成音视频侵权问题呢？
薛智慧专家表示，从技术角度来看，可以利用AI技术来对抗和检测AI。目前已有一些典型的AI技术能够对图片或音视频进行检测，判断或分析这些图片是否经过后期加工和合成。
中国计算机学会计算机安全专业委员会委员吕延辉指出，防范AI侵权问题需要从法律、平台和公众等多个层面综合施策。法律层面要完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，并加强执法力度。平台层面要强化政策法规的宣贯和执行，做好数据保护，应用技术手段规避AI克隆侵权问题的发生，同时建立健全内容审核和侵权举报机制。
法律专家也提醒AI深度合成制作和信息发布者，不要抱有侥幸心理。法律没有灰色地带，切勿因小失大。
赵精武副教授强调，法律并非禁止使用AI合成技术，而是禁止不合法、不合理地使用，尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。
