阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯实质变化2 分钟阅读DisconfirmAI 编辑部

太阳能设备公司Exowatt自测:微调1.7B模型在报警分类任务上准确率超Claude Sonnet 4.6

Exowatt将Qwen3-1.7B微调后在边缘报警分类上自测macro-F1达0.911,超过Claude Sonnet 4.6的0.698;关键发现是训练数据的多样性比模型规模和训练轮数更重要——同数据跑11轮仅得0.879,而用改写扩充的2522条数据跑一轮即达0.911。

2026-10-28 00:50

太阳能设备公司Exowatt为AI数据中心提供可调度太阳能供电系统,其能源管理系统运行于不断扩展的站点群,各站点持续产生硬件报警。团队需要在无GPU、常无网络的边缘控制器上自动分类报警并给出下一步操作建议。Exowatt在AWS机器学习博客中描述了这一工程实践:微调Qwen3-1.7B模型在报警分类任务上自测macro-F1达0.911,超过Claude Sonnet 4.6的0.698,且推理成本为零(运行在站点现有CPU上)。

为什么前沿模型在这个场景下不可行?Exowatt给出三个原因:任务窄且专有,报警分类依赖其特定硬件和运行逻辑;必须边缘运行,无GPU且经常无网络;成本在站点群规模下不可持续,每个决策都调用云端前沿模型在经济上不可行。团队最初尝试Qwen3-8B加提示和护栏,macro-F1停在0.735,未达目标。随后发现一个反直觉的结果:十三种微调Qwen3-8B方案、跨12个数据集版本,没有一个超过提示版8B基线。而参数量仅为其五分之一的Qwen3-1.7B,配合更多样化的训练数据,反而超过了8B。

数据策略是核心发现。训练集仅2522条:684条经过验证的站点场景决策,加上1838条由Qwen3-VL-235B生成的改写(保持决策、标签、证据引用和所有数字不变,仅改写表述)。改写生成成本约3.72美元,2218个候选中1838个通过确定性检查。关键对照实验:仅用684条原始数据跑11轮(与扩充数据集步数相同),macro-F1为0.879;用扩充到2522条的多样化数据跑一轮,macro-F1为0.911。Exowatt的结论是:对于紧密界定的任务,数据质量与多样性比模型规模和数据量更重要,单纯增加训练轮数反而不如增加数据多样性。

在云端能源市场分析任务上,同样的管线将Qwen3-14B从基线0.415提升到0.975 macro-F1,超过Claude Opus 4.7的0.625,每千次回答成本0.60美元对比29.26美元(约49倍差距)。Exowatt强调,两个模型只是管线的第一个输出,更持久的成果是管线本身:从原始运营数据到认证训练集、微调模型和评估部署产物的可重复路径,将迭代周期从数月压缩到数天。

需要指出的边界:所有性能数据为Exowatt与AWS的自测结果,未经独立复现。两个任务均为单轮严格JSON输出分类,模型返回的每个声明必须引用输入数据的具体行,无法引用则丢弃。测试集分别为320和2000个样本。成本对比使用Amazon Bedrock标价乘以实测token数,边缘模型零成本指无API调用费,但硬件折旧和运维未计入。这些数字说明的是特定窄任务上的相对优势,不能外推到多步推理、开放生成或需要世界知识的场景。

来源

  • aws.amazon.com
登录 / 注册
阅读研究雷达投资体系
Amazon Web Services
↗
带入研究 →