网界科技
网络资讯 产业经济 科技人物 数据洞察 行业动态 智能出行 智能手机 数码极客 热点资讯

人工智能安全新基准:两项国际标准问世

2024-04-17来源:网界科技编辑:星辉

【网界】4月17日消息,近日,全球人工智能领域迎来重要里程碑。世界数字技术院(WDTA)正式发布了《生成式人工智能应用安全测试标准》与《大语言模型安全测试方法》两项国际标准,这标志着国际组织首次针对大模型安全领域推出具体的国际标准,为全球人工智能的安全评估和测试设定了新的标杆。

据网界深入了解,这两项标准汇聚了全球顶尖的科技力量。OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等科技巨头的专家学者联手,共同为这两项标准贡献了智慧。其中,《生成式人工智能应用安全测试标准》以WDTA为主导,为使用大语言模型(LLM)的应用程序的安全性测试和验证提供了全面框架。该标准详细规定了AI应用程序架构各层的测试和验证内容,确保其从基础模型选择到运行时安全的每一个环节都能经过严格的安全性和合规性评估。

而由蚂蚁集团主导的《大语言模型安全测试方法》则为大模型的安全评估提供了实操性强的解决方案。它不仅提出了大语言模型的安全风险及攻击的分类方法,还首次明确了四种攻击强度的分类标准,为开发人员和组织提供了有力的工具,以识别和缓解潜在的安全漏洞,从而显著提升大语言模型构建的人工智能系统的安全性和可靠性。

WDTA人工智能安全可信负责任工作组组长黄连金在会议上强调,随着大语言模型在社会各领域的广泛应用,制定全面标准以应对安全挑战显得尤为重要。这两项标准的发布不仅填补了相关领域的空白,更为业界提供了明确的测试指南,对于提升AI系统的整体安全性、推动AI技术的健康发展以及增强公众对AI技术的信任具有深远意义。

在全球范围内,各国政府对大模型安全的监管和研究也在不断加强。中国政府就相继发布了多项相关政策和倡议,积极推动生成式人工智能的安全可信发展,同时也在全球人工智能治理领域寻求合作与共识,共同应对AI技术带来的挑战与机遇。

小米公开招聘短剧编剧 短剧市场或将迎来新一股浪潮
【网界】5月13日消息,近日小米集团在招聘平台发布了一则引人注目的招聘信息,公开寻求短剧编剧人才,这一举动被外界普遍解读为小米可能正计划进军短剧制作领域。小米为这一岗位提供了月薪20000至30000元,并承诺13个月薪资的优厚待遇,凸显出小米对短剧编剧人才的高度

2024-05-13

旅拍市场陷困境:“五一”假期盈利不及预期
【网界】5月6日消息,旅拍市场曾经是假期最赚钱的生意之一,然而,今年的“五一”假期,旅拍店商家却未能迎来预期的盈利高峰。多位旅拍店老板反映,尽管门店数量激增,但价格战激烈,黄牛抢客现象普遍,导致订单量甚至不如淡季。原本面向游客的旅拍服务,在北京各大景区

2024-05-06

苹果Tap to Pay开放遇阻:ECB指出存在多项不足
【网界】4月23日消息,近日科技界传来新动向,欧盟委员会有望在近期内批准苹果公司开放其点击支付(Tap to Pay)功能。然而,此项决策似乎并不顺利,欧洲中央银行(ECB)的执行董事会成员皮埃特罗・西波隆(Pietro Cipollone)在致欧盟委员会的信中表示,苹果提出的方案存在显

2024-04-23

马斯克旗下X平台致信巴西法院:将全面遵守裁决
【网界】4月16日消息,近日,埃隆·马斯克所拥有的社交媒体巨头X,通过其律师向巴西最高法院表明将全面遵守该法院以及巴西高等选举法院的所有裁决。这一消息源自路透社所披露的一封致巴西最高法院法官亚历山大·德·莫拉埃斯的信函。此次X公司的表态,显著地改变了其在

2024-04-16