Liquid AI发布LFM3模型家族,主打小参数高效

IT时代网10月28日消息,人工智能实验室Liquid AI当地时间27日发布LFM3模型家族。其基于全新的三混合层架构,在22T词元上预训练而成,在保持高效的同时具备更出色的表现。

LFM3的首批产品包括LFM-1.7B(文本)、LFM3-VL-2B(视觉)、d1-2B(决策)、LFM3-Audio(音频)、LFM3-Omni-2B(全能)、d1-Omni-2B(全能决策),这些模型均基于LFM3-1.7B-Base。

Liquid AI表示,LFM-1.7B拥有256K上下文窗口,在使用的参数减少35%的同时性能优于上代的LFM2.5-2.6B。

注:本文配图由AI生成。本文综合自IT之家等,文中包含AI辅助创作的内容。

编辑:林一舟

THE END