国内首个车载移动式词元工厂亮相
IT时代网8月29日消息,据央视财经今天报道,国内首个车载移动式词元工厂近日亮相。它搭载国产算力和能源管理系统,能更灵活地匹配人工智能算力需求,同时探索算电协同的新模式,既帮助新能源消纳,也压低算力运营成本。
硬件形态上,这台车载移动式词元工厂采用标准化40尺集装箱,整车为电算冷、存算网一体化设计。车头可搭配电动牵引车,支持9个机柜部署,配备电力与通讯一体化快接口,多车可快速组网形成移动算力集群,从到场接入到完成调试运行只需6到8小时。
性能方面,该车在120千瓦供电情况下,可提供大约50P到100P的算力,理论上能支撑两个国产大模型的推理任务。
真正有意思的是它的用法。当新能源大发、出现低价电力时,算力车可以开到离新能源较近的变电站接入,提升新能源消纳、降低算力运行成本。据测算,用移动方式接入算力,整体成本能降低25%左右,从而生产更具性价比的词元服务,供下游不同场景使用。
除此之外,车载移动式词元工厂还能实现场站级快速部署、提供应急算力,也可以为大型基建项目施工期间提供弹性就近算力,满足灵活、低延迟的算力刚需,让算力跟着词元走。

注:本文综合自IT之家等,文中包含AI辅助创作的内容。
THE END