网界
网络资讯 网界财经 科技人物 数据洞察 行业动态 智能出行 智能手机 数码极客 商业资讯

IBM新光学技术:光速训练AI,GPU闲置不再,能效大幅提升

2024-12-11来源:ITBEAR编辑:瑞雪

IBM近期宣布了一项革命性的技术突破,这项新技术能够在极大程度上提升人工智能模型的训练效率,并且显著节约能源消耗。据IBM介绍,这种新型光学技术,若应用于数据中心,将能够节省相当于5000个美国家庭一年能源消耗量的能源。

传统数据中心虽然通过光纤电缆与外部网络连接,但在其内部,仍然大量使用铜线连接GPU加速器。这些GPU加速器在等待其他设备传输数据的过程中,往往会长时间处于闲置状态,这不仅消耗了大量能源,还增加了运营成本。IBM此次推出的技术,正是为了解决这一痛点。

IBM高级副总裁兼研究总监Dario Gil表示,随着生成式AI技术的不断发展,对能源和处理能力的需求也在不断增加,数据中心必须进行相应的进化。而IBM此次推出的共封装光学技术(CPO),正是数据中心进化的关键一步。通过CPO技术,未来的芯片将能够像光纤电缆一样,以光速进行数据传输,从而大幅提升通信速度和能源效率。

在IBM发布的一篇技术论文中,详细介绍了CPO技术的原型。该技术通过显著增加数据中心的带宽,有效减少了GPU的闲置时间,从而加速了AI模型的训练过程。据IBM透露,应用CPO技术后,大型语言模型(LLM)的训练时间可以从原本的三个月缩短至三周,极大地提高了训练效率。

CPO技术还带来了更高的能源效率,降低了能源消耗,并减少了与训练LLM相关的成本。这一突破性的进展,不仅为AI技术的发展提供了强有力的支持,也为数据中心的可持续发展开辟了新的道路。IBM的这一创新,无疑将在AI领域引发一场深刻的变革。

百度“文心杯”第三届落幕!8支团队获千万投资,李彦宏盼AI应用星火燎原
李彦宏表示,我们看到越来越多的创业者在各种场景发现AI的新能力、新效果,希望更多的人能够加入这个发现之旅,也正基于此,百度连续三年举办“文心杯”创业大赛。 第三届“文心杯”创业大赛8支优胜团队共获得数千万元…

2025-11-14

MIT四名00后辍学生创业Cursor:两年冲刺300亿估值 获谷歌英伟达重投
两年前,在完成种子轮融资后,创始人曾写了这样的期待—— Cursor的诞生,推动了「氛围编程」(vibe coding)在全球兴起。 他还在创纪录的时间内,完成了一份手写编程测试,给早期Facebook投资…

2025-11-14

百度AI成果爆发:从智能到效果涌现,重构产业开启全球化新篇
百度搜索富媒体结果覆盖率已达70%,萝卜快跑全球出行服务超1700万次,文心大模型5.0亮相——百度AI成果集中爆发,标志着AI从“智能涌现”迈向“效果涌现”的临界点已至。 百度AI业务的集体出海,代表了中国…

2025-11-14

百度发布新一代昆仑芯与天池超节点 未来持续加码AI云建设
在近日举办的百度世界大会上,百度公司重磅推出新一代昆仑芯及超节点产品“天池”,并宣布未来五年将每年发布创新产品,致力于构建顶尖AI云服务生态,赋能企业深度融合AI技术。

2025-11-14

李彦宏2025百度世界大会发声:搜索结果AI主导,AI搜索能力开放合作
11 月 13 日消息,在今日的 2025 百度世界大会上,百度创始人李彦宏表示,百度搜索绝大部分的搜索结果由 AI生成,而首条结果的富媒体覆盖率已达 70%。 IT之家从大会获悉,百度还通过 AI API…

2025-11-13

李彦宏2025百度世界大会演讲:AI内化驱动产业变革 开启智能生产力新纪元
“当下非常重要的问题是,企业如何内化AI能力”——李彦宏介绍,这有三个代表性的应用方向: 李彦宏指出,百度是全球所有搜索引擎中AI化改造最激进的,用AI重构搜索结果页,而非简单插入AI摘要,“把搜索从一个以…

2025-11-13