LattePanda发布Sigma 2单板电脑:宣称可本地运行35B级大模型
LattePanda推出新款单板电脑,宣称凭借180TOPS算力和64GB内存可在本地运行35B级量化大模型。
中国硬件公司 LattePanda 于10月22日发布新款 x86 单板计算机“LattePanda Sigma 2”。该产品基于英特尔 Panther Lake 世代的 Core Ultra X7 358H 处理器,官方称其 CPU、GPU 和 NPU 合计可提供最高 180 TOPS(INT8)的 AI 算力。
为了支持本地大语言模型运行,该主板配备最高 64GB 的 LPDDR5X-8533 内存,其中最多 59GB 可分配给 GPU/NPU 作为显存使用。LattePanda 表示,这一配置足以容纳 35B 级别的量化 MoE 模型及长上下文所需的 KV 缓存。据厂商自测,结合 INT4 量化和 OpenVINO 框架,该设备能以约 30 tokens/s 的速度运行 Qwen3.6-35B-A3B 模型。
此外,Sigma 2 还集成了 RP2350 微控制器,可通过 GPIO 实时控制传感器和执行器,适用于机器人或嵌入式 AI 场景。目前该产品处于预订阶段,预订价为 2,599 美元,预计11月中旬结束预订后价格将调整为 2,799 美元。