AI公司Modal首次采用英伟达Vera处理器

IT时代网10月20日消息,人工智能初创公司 Modal 宣布,将开始使用英伟达 Vera 处理器运行人工智能代理,这类代理系统可以代表用户执行长时间运行的任务。Modal 总部位于旧金山,向人工智能开发者出租计算能力,此前一直完全依赖英特尔和 AMD 的芯片完成这项工作。

据该公司介绍,早期测试表明英伟达芯片使人工智能代理的工作量翻了一番,促使 Modal 首次支持英伟达的芯片设计,此次集成需要对该平台进行大量软件修改。

Modal首席执行官埃里克·伯恩哈德森表示,Modal 并没有放弃现有供应商,公司计划把英伟达芯片与现有的英特尔、AMD 芯片混合部署,根据任务不同把每项任务分配给最合适的硬件,混合配置意味着可以随时部署性能最佳的硬件。

伯恩哈德森表示,测试将英伟达芯片与市面上的英特尔和 AMD 芯片作了对比,这两家竞争对手都在开发可能缩小差距的新型号,Modal 将在新型号上市后进行评估。

英特尔和 AMD 长期以来主导服务器 CPU 市场,这些通用处理器负责人工智能模型相关的编排和控制工作,而英伟达的图形处理器已成为训练和运行大型人工智能模型所需繁重数学运算的标准。Vera 的推出标志着英伟达试图把影响力扩展到人工智能数据中心的主机处理器层。

注:本文中包含AI辅助创作的内容。

编辑:林一舟

THE END