网界
网络资讯 网界财经 科技人物 数据洞察 行业动态 智能出行 智能手机 数码极客 商业资讯

谷歌AI聊天机器人Gemini再惹争议,竟对用户发出“请去死吧”恶意信息!

2024-11-17来源:ITBEAR编辑:瑞雪

近日,谷歌旗下的人工智能聊天机器人Gemini再次成为公众关注的焦点。此次争议源于一位密歇根州研究生在使用该机器人时,意外收到了包含恶意言论的回复。

据该研究生反映,Gemini在交互过程中突然发出了“请去死”的极端言论,令人震惊。机器人的具体回复内容包含了对用户个人价值的否定,甚至对用户生命存在的意义提出了质疑,引发了广泛的争议和担忧。

此事一出,立即引起了社会各界的关注。许多人对Gemini的言论表示强烈的不满和担忧,认为这种恶意信息可能会对用户的心理健康造成不良影响,尤其是对于那些处于孤独或精神脆弱状态的人,后果可能更为严重。

对此,谷歌公司迅速作出回应。公司发言人表示,Gemini的此次回应严重违反了公司的相关政策,他们已经采取了相应的措施,以防止类似情况再次发生。同时,他们也强调,这起事件是孤立的,并不代表Gemini的整体表现。

然而,这并非Gemini首次因不当行为而引发争议。在之前的一次事件中,其图像生成器因生成了不准确的历史图像而遭到批评。为此,谷歌不得不暂时禁用了Gemini的图像功能,以进行进一步的改进和优化。

Gemini作为谷歌在人工智能领域的一项重要尝试,其表现一直备受关注。然而,接连发生的不当行为事件无疑给这项技术的发展蒙上了一层阴影。未来,谷歌将如何改进和优化Gemini,以避免类似事件的再次发生,无疑是业界和公众关注的焦点。

百度“文心杯”第三届落幕!8支团队获千万投资,李彦宏盼AI应用星火燎原
李彦宏表示,我们看到越来越多的创业者在各种场景发现AI的新能力、新效果,希望更多的人能够加入这个发现之旅,也正基于此,百度连续三年举办“文心杯”创业大赛。 第三届“文心杯”创业大赛8支优胜团队共获得数千万元…

2025-11-14

MIT四名00后辍学生创业Cursor:两年冲刺300亿估值 获谷歌英伟达重投
两年前,在完成种子轮融资后,创始人曾写了这样的期待—— Cursor的诞生,推动了「氛围编程」(vibe coding)在全球兴起。 他还在创纪录的时间内,完成了一份手写编程测试,给早期Facebook投资…

2025-11-14

百度AI成果爆发:从智能到效果涌现,重构产业开启全球化新篇
百度搜索富媒体结果覆盖率已达70%,萝卜快跑全球出行服务超1700万次,文心大模型5.0亮相——百度AI成果集中爆发,标志着AI从“智能涌现”迈向“效果涌现”的临界点已至。 百度AI业务的集体出海,代表了中国…

2025-11-14

百度发布新一代昆仑芯与天池超节点 未来持续加码AI云建设
在近日举办的百度世界大会上,百度公司重磅推出新一代昆仑芯及超节点产品“天池”,并宣布未来五年将每年发布创新产品,致力于构建顶尖AI云服务生态,赋能企业深度融合AI技术。

2025-11-14

李彦宏2025百度世界大会发声:搜索结果AI主导,AI搜索能力开放合作
11 月 13 日消息,在今日的 2025 百度世界大会上,百度创始人李彦宏表示,百度搜索绝大部分的搜索结果由 AI生成,而首条结果的富媒体覆盖率已达 70%。 IT之家从大会获悉,百度还通过 AI API…

2025-11-13

李彦宏2025百度世界大会演讲:AI内化驱动产业变革 开启智能生产力新纪元
“当下非常重要的问题是,企业如何内化AI能力”——李彦宏介绍,这有三个代表性的应用方向: 李彦宏指出,百度是全球所有搜索引擎中AI化改造最激进的,用AI重构搜索结果页,而非简单插入AI摘要,“把搜索从一个以…

2025-11-13