网界
网络资讯 网界财经 科技人物 数据洞察 行业动态 智能出行 智能手机 数码极客 商业资讯

AI智能体变身黑客新“助手”,网络安全面临新挑战

2025-03-15来源:ITBEAR编辑:瑞雪

近期,网络安全领域迎来了一项重大警示。网络安全巨头Symantec在一份报告中揭示,AI智能体,诸如OpenAI的Operator,正逐步突破传统工具的界限,为黑客提供了新的攻击手段,特别是在钓鱼攻击与攻击基础设施构建方面。

Symantec的研究人员着重指出,这些AI工具的角色正在发生根本性转变,从以往的“被动辅助”进化为“主动执行”,这对网络安全构成了前所未有的威胁。它们现在能够执行一系列复杂的攻击链,涵盖了情报搜集、恶意代码编写,以及社会工程学攻击的设计。

更令人担忧的是,攻击者只需通过简单的提示工程(prompt engineering),就能绕过AI的伦理限制,操控这些智能体完成特定的攻击任务。这一发现意味着,AI智能体不再是单纯的工具,而是成为了黑客手中的“利刃”。

报告进一步指出,以往AI在网络安全领域的应用主要局限于生成钓鱼邮件或基础代码,但如今它们已经具备了自动化搭建攻击基础设施的能力,这极大地提升了攻击的效率与隐蔽性。

面对这一新兴威胁,网络安全专家Stephen Kowski(SlashNext)提出了多项应对策略。他建议企业强化邮件过滤系统,部署能够检测AI生成内容的过滤器,以有效拦截含有AI生成钓鱼链接的邮件。同时,推行零信任原则,严格限制用户及AI智能体的访问权限,确保最小权限原则的实施。

Kowski还强调了对员工进行针对性培训的重要性。通过培训,提高员工对AI生成钓鱼威胁的识别能力,增强他们的网络安全意识,从而构建更加坚固的网络安全防线。

百度AI成果井喷:从智能涌现到效果涌现,产业结构迈向健康倒金字塔
李彦宏在大会上表示,“我们用AI重构搜索结果页,不是简单地在搜索结果中插入AI摘要,而是把搜索从一个以文字内容和链接为主的互联网应用,转化为一个以图片视频等富媒体内容为主的AI应用。” 在李彦宏看来,AI数字…

2025-11-15

百度世界大会:李彦宏携AI“军火库”全面开放,开启应用新篇章
现场演示连线数字人罗永浩环节上,出现了“翻车”这一尴尬现象时,李彦宏的情绪也并没有太多波动,而是感觉“有点遗憾”,并表示“其实我们在之前演练的过程当中觉得这个效果还是非常令人惊艳的”。 还有大模型层面上的文…

2025-11-15

百度世界大会发布AI新成果:文心5.0等亮相,李彦宏畅谈AI内化生产力变革
李彦宏在大会上表示,“我们用AI重构搜索结果页,不是简单地在搜索结果中插入AI摘要,而是把搜索从一个以文字内容和链接为主的互联网应用,转化为一个以图片视频等富媒体内容为主的AI应用。” 在李彦宏看来,AI数字…

2025-11-13

百度“文心杯”第三届落幕:8支团队获千万投资,李彦宏力推AI应用普及
李彦宏表示,我们看到越来越多的创业者在各种场景发现AI的新能力、新效果,希望更多的人能够加入这个发现之旅,也正基于此,百度连续三年举办“文心杯”创业大赛。 第三届“文心杯”创业大赛8支优胜团队共获得数千万元…

2025-11-13

2025百度世界大会聚焦AI发展:成果发布,内化能力引领新质生产力变革
本届大会以“效果涌现”为主题,聚焦国产芯片最新进展、大模型升级、AI应用创新与全球出海,呈现了百度作为中国人工智能领军企业,如何将AI技术内化为产业发展的原生动能,为加快形成新质生产力提供可落地的“百度方案”…

2025-11-13