开发者把微型Transformer模型塞进软盘
IT时代网11月22日消息,一名开发者完成了颇具复古科技色彩的项目:将一个语言模型塞进软盘,让运行DOS系统的486DX和Pentium老电脑也能使用AI。
这款名为Tiny 2.1的软件并不是大型语言模型,它采用与大型模型相同的Transformer架构,定位是一个使用Turbo C 2.0编写的微型问答Transformer模型。在486电脑时代,普通PC格式化软盘的存储容量还不到147.5万字节,要在如此有限的空间内运行现代AI软件并不容易。Tiny 2.1尽可能压缩模型体积,参数量为36.7万个,采用4层网络结构,隐藏维度为96,逐字母读取和生成内容。
要在老式PC上运行Tiny 2.1,系统需要拥有约540KB的可用常规内存。软件的界面设计也相当完整,包含对话历史窗口、神经网络监控面板以及用于输入问题的Ask Tiny窗口,按照DOS软件的传统习惯,界面还提供了一系列F键快捷操作。
这款软件还有一个复古未来主义色彩的功能:通过PC内置扬声器,以机器人语音朗读模型生成的回答。

注:本文配图由AI生成。本文综合自IT之家等,文中包含AI辅助创作的内容。
编辑:林一舟
THE END