AI工程师将RISC-V处理器编译进大模型权重,实现内部运行DOOM游戏
开发者Divyansh Agrawal将32位RISC-V CPU直接编译进Qwen 3.5 4B模型的权重中,使其无需外部工具即可执行C代码和运行DOOM。
AI工程师Divyansh Agrawal发布了一个名为Qwenputer的实验性项目,成功将一个32位RISC-V CPU直接编译并嵌入到Qwen 3.5 4B大语言模型的权重中。这一创新使得该模型能够利用其自身的权重作为内存(RAM),在不依赖任何外部运行时或工具调用的情况下,直接在内部执行处理器算术运算、C语言和MicroPython代码,甚至能够以极慢的速度运行经典游戏《DOOM》。
与传统的模型训练不同,这个内置的“CPU”并非通过机器学习获得,而是由编译器计算出全部权重,包含在Qwen原有层之前的11个Transformer层。Agrawal声称,该内置CPU通过了官方riscv-tests测试,其程序与qemu匹配,并且已经无错误地自由运行了1800万条指令。这种设计克服了大型语言模型常见的算术弱点,提供了精确的计算能力。此外,该项目还利用DeltaNet状态为模型提供了一个文件系统,支持最多512个文件的持久化存储。
由于资源使用的扩展,Qwenputer的体积几乎是底层Qwen 3.5 4B模型的两倍,达到近19GB,因此需要至少24GB显存的工作站进行测试。目前该项目仍处于实验阶段,主要目的是探索技术可能性而非解决特定生产问题,但其MIT开源代码已在GitHub上发布。