IBM近日在其企业级AI开发平台watsonx.ai上推出了DeepSeek-R1蒸馏版的Llama 3.1 8B和Llama 3.3 70B模型,这一消息引起了业界的广泛关注。
据悉,DeepSeek不仅利用了知识蒸馏技术,还通过R1模型生成的数据优化了多个Llama和Qwen变体。这一创新使得用户能够在watsonx.ai平台上更加高效地利用这些模型。
用户现在可以通过多种方式在watsonx.ai上使用DeepSeek蒸馏模型。在平台的“按需部署”目录中,IBM提供了Llama蒸馏版,用户只需简单部署即可获得专用实例,进行安全推理。用户还可以利用“自定义基础模型”导入功能,上传如Qwen蒸馏模型等其他DeepSeek-R1变体。
DeepSeek-R1模型凭借其强大的推理能力,在多个领域展现出了广泛的应用潜力。在规划领域,其独特的“链式思维”逻辑有助于处理需要逐步推理的任务,特别适合智能体应用。在编程领域,DeepSeek-R1可用于代码生成、调试和优化,极大地提升了开发效率。该模型还具备处理复杂数学问题的能力,在科研、工程和科学计算等领域表现出色。
对于开发者而言,watsonx.ai平台提供了丰富的解决方案能力,帮助他们更好地利用DeepSeek-R1进行AI解决方案开发。开发者可以直观地测试和评估模型输出,通过连接向量数据库和嵌入模型构建RAG(检索增强生成)管道,并支持LangChain、CrewAI等主流AI框架。
IBM watsonx.ai平台还提供了灵活的开源模型定制选项,支持DeepSeek-R1在不同环境下的部署。这极大地简化了智能体开发、微调、RAG、提示工程等工作流。平台内置的安全机制也保障了用户应用的安全性。
IBM首席执行官在本月初发表的长文中透露,DeepSeek模型仅用约2000枚英伟达芯片,以大约600万美元的成本训练而成,远低于行业预期。这一成就再次证明了小型、高效的模型同样能够带来实际成果,无需依赖庞大而昂贵的专有系统。