速递｜印度初创公司Ziroh Labs，推出无需高端芯片即可运行大型AI模型

图片来源：Artisan

印度人工智能初创公司Ziroh Labs ，与该国顶尖技术学院的研究人员合作，设计出一套经济实惠的系统，据称无需依赖英伟达公司等提供的高端计算芯片，即可运行大型AI模型。

该公司的框架名为Kompact AI，是与印度马德拉斯理工学院合作开发的。

Ziroh Labs表示，该平台能让AI在日常计算设备的中央处理器（CPU）上运行，而非依赖当前人工智能热潮中炙手可热却价格高昂的图形处理器（GPU）。

随着DeepSeek以远低于美国同行的成本，打造出具有竞争力的AI模型并取得现象级成功后，越来越多的AI开发者开始宣扬其效率提升，声称能在后续数月减少芯片使用量。

Ziroh Labs的方法主要聚焦于推理过程，即在AI系统完成训练后的实际运行阶段。

Ziroh Labs宣称能优化主流AI模型使其在个人电脑上运行。在本周的演示活动中，研究团队展示了其产品在搭载市售英特尔至强处理器的笔记本电脑上运行，并成功调用Meta Platforms Inc.的Llama 2 ，和阿里巴巴集团的Qwen2.5等模型。

其他科技公司也曾利用CPU处理部分推理工作负载。Ziroh Labs表示其方法能带来高质量成果。这家初创企业称其技术已通过美国芯片制造商英特尔公司和超威半导体公司的测试。

“Sun Microsystems前首席战略官、该初创公司技术顾问威廉·拉杜切尔在线上活动中表示：“未来几年，这将对市场产生非常深远的影响。”“

与其他国家一样，印度开发者难以负担并获取顶级英伟达芯片来构建和支持AI产品。GPU短缺可能阻碍当地AI研究及部署的速度与规模。

印度理工学院马德拉斯分校主任V·卡玛科蒂指出：“AI鸿沟源于只有拥有高端昂贵GPU资源的人才能访问、开发和部署强大AI。我们正在证明，杀鸡焉用牛刀。”

参考资料

本文翻译自：https://www.bloomberg.com/news/articles/2025-04-10/indian-startup-unveils-system-to-run-ai-without-advanced-chips?srnd=phx-technology

编译：ChatGPT

（文：Z Potentials）