近年来，人工智能（AI）深度合成技术在音视频领域的应用引发了诸多争议，从模仿企业家雷军到伪造张文宏医生的音视频用于商品推广，再到利用该技术实施诈骗，一系列事件不断冲击着公众的神经。
此前，有网友利用AI技术合成的刘德华声音吸引流量，这一行为迫使刘德华的电影公司迅速发表声明，警告网民不要上当受骗。近日，记者深入调查发现，制作AI深度合成的音视频门槛并不高，甚至在部分电商平台上，这种技术已成为网店盈利的手段，仅需几十元，就能定制名人的AI深度合成音视频。
那么，这些高度逼真的AI换声和换脸视频究竟是如何制作的呢？记者发现，尽管在应用商店中可以找到不少换脸换声的工具，但这些工具往往预设了固定场景，且效果并不十分逼真。那么，网店是如何实现高逼真度的AI合成呢？
据中国网络空间安全协会人工智能安全治理专业委员会的专家薛智慧介绍，当前网络上有许多开源软件和工具可以实现换声和换脸效果，网民可以自由下载并在个人电脑上安装使用。这些软件虽然种类繁多，但操作相对复杂，需要调整多种参数，属于半专业软件，因此不为大众所熟知。然而，记者注意到，在短视频平台上，已有不少主播在教授如何使用这些软件。
针对电商平台使用AI深度合成技术制作并出售名人音视频的行为，法律专家指出，这已构成侵权。相关法律法规明确规定，未经授权，不得深度合成制作并发布他人信息。因此，这些网店不仅违法，还应承担相应的法律责任。
北京航空航天大学法学院副教授赵精武进一步解释，国内已经审结了一起AI生成声音人格权侵权案。在这起案件中，一名配音演员的声音在未经授权的情况下被AI生成并出售，法院最终认定被告行为构成侵权。这表明，自然人的声音作为一种人格权益，具有人身专属性，受法律保护。
面对AI深度合成音视频侵权的日益严峻形势，专家建议从多个层面采取措施进行防范。从技术角度看，可以利用AI技术对抗和检测AI。目前已有一些AI技术能够检测图片或音视频是否经过后期加工合成。同时，法律层面也需要进一步完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，并加强执法力度。
平台方面，应强化相关政策法规的宣贯和执行，保护已有数据，应用技术手段规避AI克隆侵权问题的发生。同时，建立健全内容审核和侵权举报机制，及时发现和处理侵权问题。专家还提醒AI深度合成制作和信息发布者，不要心存侥幸，法律没有灰色地带。
赵精武副教授强调，法律并不禁止使用AI合成技术，而是禁止不合法、不合理的使用，尤其是禁止未经显著标识和提示就发布和传播AI合成信息。这一观点为AI技术的合法使用提供了明确的指导。
