腾讯混元Hy4旗舰模型开源 系列完成全量开放
IT时代网11月20日消息,腾讯混元团队今日宣布Hy4大模型正式开源,模型权重已在GitHub、Hugging Face、ModelScope和GitCode四个平台同步上线,开发者可自行下载部署。至此,混元LLM系列完成全部开源,覆盖Hy3 preview、Hy3、Hy4 preview、Hy4及Hy4 flash等版本。
Hy4采用MoE混合专家架构,总参数770B,激活参数49B,上下文窗口突破100万Token。Hy4正式版最早于11月4日发布,本次开源的是此前预告的模型权重。
本站此前报道,腾讯混元已先行开源主打性价比的Hy4 flash,其总参数约2200亿,每个Token仅激活约120亿参数,同样支持100万Token上下文。此次旗舰Hy4开放后,两者形成从旗舰能力到低成本规模化落地的梯次搭配。
开源协议方面,Hy4及Hy4 preview采用Apache 2.0许可证,允许商业使用与修改。腾讯混元同步发布了Hy4模型安全评估卡片,披露网络安全与生物安全等维度的评估结果;官方说明称,训练数据仅纳入PoC生成、漏洞修复等防守性网络安全内容,腾讯玄武与科恩实验室的审计未发现明显的进攻性能力风险。

注:本文配图由AI生成。本文综合自IT之家等,文中包含AI辅助创作的内容。
编辑:林一舟
THE END