资讯1 分钟阅读·
4-bit量化大体保留大模型人格结构
作者自报:4-bit量化大体保留粗粒度人格结构,2-bit破坏细粒度提示一致性
重要性局部证据E2 未复现
选型者现在可以知道:4-bit量化大体保留大模型的粗粒度人格结构,2-bit量化则破坏细粒度提示一致性与跨精度一致性,且人格决策主要在上层形成。
此前对开源大模型做量化选型时,人格结构是否随精度改变缺少分层MBTI人格分析依据。
Yao Fu等六位作者对开源大模型做分层MBTI人格分析,覆盖GPTQ、AWQ 4-bit与AQLM 2-bit量化,结果均为作者自报。
结果未经独立验证,仅供人格敏感聊天应用的量化选型参考;预印本v2于9月15日更新,8月26日首次提交,页面自标“进行中”,arXiv:2608.25977。