罗格数据CTO刘学鹏:端侧AI客户只为「最后一百米」买单
数据工程公司罗格数据CTO刘学鹏在端侧AI芯片公司后摩智能的生态大会上提出:模型解决一公里外的问题,算力解决五百米的问题,但客户只愿为「最后一百米」买单。养老机构的隐私顾虑、央企的涉密红线、财税数据的不可外传,共同说明端侧AI的商业化门槛不是模型能力,而是数据信任与交付质量。
重要性实质性证据E3 可检验写法标准
罗格数据CTO刘学鹏在这次圆桌讨论中提出了一个判断:「模型解决了一公里外的问题,算力解决了五百米的问题,但客户只愿意为最后一百米买单。」这不是抽象比喻。他今年落地了大量央企和上市公司客户,发现一个反复出现的模式——企业不是不知道AI有用,而是不知道把AI放在哪里才敢用。
财税场景最典型。大量发票、财报和订单数据天然不可能放到云端模型去推理,必须专属化。刘学鹏把这种需求概括为「私域化专属」:AI未来会成为企业的数字专家或数字员工,这种触及核心业务的「员工」必须招进公司内部,而不是变成外部的云端服务。当模型开始读取你最核心的经营数据,数据边界就不再是附加选项,而是商业落地的前提。
安全门槛在党政和涉密领域更硬。麒麟软件副总经理姚翎的客户多是这些领域的关键岗位。她的判断很直接:只要AI工具部署在互联网上,涉密数据就绝对不能碰。她举了一个具体例子——你以为给文件换个代号就安全了?大模型完全能把今天和明天上传的碎片信息,拼凑出一份完整的涉密文件。所以对重要岗位的客户来说,本地安全没有任何商量的余地。
聊趣智能科技创始人兼CEO黄隽实讲了一个更日常的版本。他们在上海一家养老机构落地了「数字家人」系统,陪老人聊天、提醒用药、辅助防诈骗。老人每天说了什么、身体状况如何,都是极其敏感的信息,不能随意上传云端;系统又要全天值守,设备还不能嗡嗡作响。到了这样的现场,隐私、算力、功耗和噪声都不再是技术指标,而是老人愿不愿意使用的前提。
寅谱计算CMO陈展凌从集成商角度补充了一个常被忽略的判断:省Token不是客户最主要的痛点,客户体验才是。首字出来要多久,机器是否安静,系统会不会卡顿,能否连续稳定运行——这些看似琐碎的问题,决定了产品是被长期使用,还是演示结束后被塞进柜子。他提到他们甚至会考虑加入液冷机制来降低噪声。
但「最后一百米」难,不只是把大模型装进小设备。刘学鹏列出了三道工程门槛:数据打通——模型进企业就像咨询顾问进场,没有业务数据什么活都干不了;交互方式——企业用户很难接受纯对话式逻辑,必须把AI无缝嵌入到他们最熟悉的工作流里;稳定性——模型本质上是概率学,但做财务报表合并需要极度精准的匹配计算,这需要大量工程技巧来兜底。他总结说,过去做软件是交付一套系统,现在落地AI,更像是把一个无所不能的天才,调教成勤勤恳恳、安全可信的专属专家。
后摩智能AI系统总工程师陈仲铭从芯片层面给出了底层约束:算力、带宽和功耗存在一个「不可能三角」,后摩目前做得最好的是解决了功耗问题,接下来的目标是打破这个三角。他规划了两条线——M系列把算力做大,另一条通过更先进的工艺和封装把带宽做大。
需要说明的是,这场圆桌发生在后摩智能自己的生态合作伙伴大会上,五位参与者均为后摩的生态伙伴或员工,他们的判断服务于端侧AI基础设施的商业推广。刘学鹏在对话最后给出的预测——在中国,AI真正落地一定是「端侧为主,云端为辅」,端侧是个人或企业的专属大脑,云端负责知识流动——是他个人的商业判断,原文也注明「这个判断对不对,日后会见分晓」。
不过,「最后一百米」这个框架本身有超越单一厂商的迁移价值。任何试图把AI从演示推向生产环境的团队,都会遇到同样的问题:客户不为你的模型参数付费,他们为的是数据不出门、设备不吵人、系统不添乱。AI从「能聊天」走向「能干活」,就要吃进你最核心、最不愿示人的数据。到那时,算力放在哪里,就不再只是技术选型题,而是一道信任题。