LG U+
2 节点1 篇3 来源
韩国电信运营商LG U+宣布其智能手机端侧AI优化技术取得突破,两篇关于“令牌(Token)优化”的研究论文被国际顶级AI会议NeurIPS 2026的“设备智能研讨会”录用。公司称,通过应用模型轻量化和推理加速技术,其小型语言模型(sLM)在受限的手机环境下处理速度提升约4.5倍,电池消耗减少约77%,且实现了无需上传个人数据即可在本地训练AI并达到与服务器训练相当的准确率。【背景】此前10月2日,LG U+已与AI优化初创公司OptAI达成合作,计划将这一在手机NPU上验证的技术扩展至服务器GPU环境,以应对生成式AI日益增长的算力与能耗挑战。目前该技术尚未大规模商用,LG U+表示正在评估将其应用于自有AI服务的具体方案。
事情怎么走到这一步
LG U+与AI优化初创公司OptAI宣布合作,共同开发令牌优化技术,旨在降低GPU功耗并提高吞吐量,此前双方已在手机NPU端侧AI优化方面有过成功协作。
en.edaily.co.kr ↗LG U+公布两篇关于端侧AI令牌优化的论文被NeurIPS 2026录用,数据显示处理速度提升4.5倍,电池消耗减少77%,并证实了本地隐私保护训练的有效性。
zdnet.co.kr ↗
还没定论的部分
- LG U+何时会将该端侧优化技术正式集成到面向消费者的具体AI服务中?
- 从手机NPU到服务器GPU的技术迁移是否能在大规模商用环境中复现相同的能效比?