在近期举办的2025年世界互联网大会乌镇峰会上，奇安信（688561.SH）网络安全专家黄巍就人工智能时代下的网络安全问题发表了看法。他指出，随着人工智能技术的广泛应用，新的网络安全威胁正逐渐显现，这些威胁贯穿于AI模型从训练到应用的各个环节。
黄巍详细分析了AI面临的三大新型攻击阶段。首先是训练阶段的数据投毒，攻击者通过向训练数据中植入恶意样本，干扰模型学习过程，导致模型性能下降甚至失效。其次是服务阶段的滥用与中断，攻击者利用身份冒充或分布式拒绝服务（DDos）等手段，使AI服务无法正常运行或性能严重受损。最后是应用阶段的提示词攻击，攻击者通过精心设计的隐蔽提示词，诱导模型产生错误输出或消耗大量计算资源。
他进一步强调，随着AI技术深入渗透到各个行业，其带来的最大潜在风险在于人们可能难以分辨虚拟与现实。为应对这一挑战，行业正在探索"以AI对抗AI"的解决方案，即通过开发专门的AI工具来检测和防范AI相关的安全威胁。这种趋势正推动各行业加速采用AI技术，同时建立相应的规范和治理体系，采购专业产品和服务来应对AI带来的新问题。
不过，黄巍也提醒，这种"以AI制AI"的模式并非完美无缺。在实际应用中，AI系统可能会产生幻觉或编造信息。例如，在测试软件程序时，AI为完成预设指标可能会虚构问题，这就需要人工进行二次验证。这种人机协作的模式，将成为未来保障AI安全运行的关键。
