网界
网络资讯 网界财经 科技人物 数据洞察 行业动态 智能出行 智能手机 数码极客 商业资讯

字节跳动单设大模型安全部门:给狂奔的智能体套上对齐的缰绳

2026-10-13来源:CHINAZ编辑:瑞雪

字节跳动正在给自家的大模型系上一根更结实的缰绳。10月13日,其 AI 模型部门 Seed 对内发出通知,决定单独成立一个新部门,专门负责把控大模型的安全风险。这个新部门来头不小——它的一把手不再层层汇报,而是直接越过中间层级,向字节跳动大模型的"一号位"吴永辉本人汇报,足见这件事在公司内部的权重。

新部门被命名为"Seed Model - Alignment & Preparedness",由严林挂帅。严林是字节 Seed 团队的核心高管之一,过去几年一直把守着豆包大模型"对齐"(Alignment)这道关。字节对外解释,设立这个部门的初衷,是要在安全与对齐方向上砸下更重的投入。所谓"对齐",说白了就是让模型的所作所为始终贴着人类的真实意图和安全边界走,别自己跑偏;落到产品层面,你能在豆包这类聊天机器人的回答合规性、问答质量,乃至价值观取向上,直接感受到它的存在。

这根缰绳要勒住的不只是闲聊时的失言。字节把提升 Agent Model(智能体模型)的安全能力写进了部门目标,更明确把防范 CBRN——也就是化学、生物、放射、核这类最危险的前沿能力——列为重点盯防对象。当智能体越来越能自己调用工具、自己完成长链条任务,它潜在的破坏半径也在同步放大,给这样的系统单独配一支"安全卫士"队伍,等于在模型真正学会独立行动之前,先把刹车和方向盘都攥在人手里。

名创优品联名周边被曝双层价签,88元挂件撕开价签竟是49.9元
正在上海旗忠网球中心进行的劳力士大师赛,把名创优品推上了风口浪尖。据观察者网消息,近日多名观众在社交平台爆料,赛事纪念品商店内该品牌售卖的联名周边,售价标签竟是直接盖在出厂价签之上,撕开新签,旧价原封不动地露了出来,加价幅度最高超过两倍。10月8日,一

2026-10-10

微亿智造通过港交所聆讯,冲击“工业具身智能第一股”
港交所10月9日披露,常州微亿智造科技股份有限公司已通过主板上市聆讯,独家保荐人为东方证券(国际)。若顺利挂牌,这家成立于2018年的常州企业将以港股工业具身智能第一股的身份登陆公开市场。微亿智造的主营业务是工业具身智能机器人(EIIR)——能在产线上自主感知

2026-10-10

华为基本摆脱对美技术依赖 余承东的底气是什么?
人物:余承东声明:网界原创文章,如需转载请留言申请开白。前几天的国际媒体圆桌上,余承东面对全球记者,谈到华为这些年的技术突围。他透露:“依托自研芯片、鸿蒙系统,借助国内供应链、原材料与制程工艺,我们基本摆脱了对美国技术的依赖。”对很多一路关注华为的人

2026-10-10