网界科技
网络资讯 产业经济 科技人物 数据洞察 行业动态 智能出行 智能手机 数码极客 商业资讯

人工智能安全新基准:两项国际标准问世

2024-04-17来源:网界科技编辑:星辉

【网界】4月17日消息,近日,全球人工智能领域迎来重要里程碑。世界数字技术院(WDTA)正式发布了《生成式人工智能应用安全测试标准》与《大语言模型安全测试方法》两项国际标准,这标志着国际组织首次针对大模型安全领域推出具体的国际标准,为全球人工智能的安全评估和测试设定了新的标杆。

据网界深入了解,这两项标准汇聚了全球顶尖的科技力量。OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等科技巨头的专家学者联手,共同为这两项标准贡献了智慧。其中,《生成式人工智能应用安全测试标准》以WDTA为主导,为使用大语言模型(LLM)的应用程序的安全性测试和验证提供了全面框架。该标准详细规定了AI应用程序架构各层的测试和验证内容,确保其从基础模型选择到运行时安全的每一个环节都能经过严格的安全性和合规性评估。

而由蚂蚁集团主导的《大语言模型安全测试方法》则为大模型的安全评估提供了实操性强的解决方案。它不仅提出了大语言模型的安全风险及攻击的分类方法,还首次明确了四种攻击强度的分类标准,为开发人员和组织提供了有力的工具,以识别和缓解潜在的安全漏洞,从而显著提升大语言模型构建的人工智能系统的安全性和可靠性。

WDTA人工智能安全可信负责任工作组组长黄连金在会议上强调,随着大语言模型在社会各领域的广泛应用,制定全面标准以应对安全挑战显得尤为重要。这两项标准的发布不仅填补了相关领域的空白,更为业界提供了明确的测试指南,对于提升AI系统的整体安全性、推动AI技术的健康发展以及增强公众对AI技术的信任具有深远意义。

在全球范围内,各国政府对大模型安全的监管和研究也在不断加强。中国政府就相继发布了多项相关政策和倡议,积极推动生成式人工智能的安全可信发展,同时也在全球人工智能治理领域寻求合作与共识,共同应对AI技术带来的挑战与机遇。

叶国富怒怼抖音,搞错了商业逻辑?
“大家醒醒吧,字节去年2万亿的GMV却收了4000亿的广告费!”名创优品创始人叶国富朋友圈贴脸开大抖音,听起来很有煽动力。叶国富引用的视频博主称,“抖音环境的恶化是大品牌、小品牌、白牌,大达人、小达人,一个都不放过”。此外,该博主还表示,抖音电商激进的流量货

2024-11-29

青岛疾控中心公益视频:结核病治疗的锦囊妙计
内容 视频来源:青岛市疾病预防控制中心青岛市预防医学研究院青岛市卫生健康大数据中心

2024-11-28

双11彩妆销售持续升温,抖音电商国际彩妆成交额同比增长175%
史上“最长”双11火热进行中,美妆江湖激战正酣。随着国潮崛起,近两年,各电商平台上的国货美妆品牌和国际品牌呈现平分秋色之势,前者增长势头尤为迅猛。不过,从今年双11初期数据来看,一些国际彩妆品牌已借助以抖音电商为代表的全域兴趣电商平台找到了新的生意增长点

2024-10-25