스켈터랩스 CTO 서종훈:企业AI代理的真正瓶颈不是模型性能,而是控制
스켈터랩스 CTO 서종훈认为,当各团队直接调用不同大模型时,成本不透明、防护栏不一致,企业无法维持统一的控制水平。他主张在代理时代,核心能力是对已验证的开放模型进行灵活安全的治理,而非自研模型。其团队开发的BELLA平台以身份、政策、网关、资产四层架构实现这一目标。
当企业试图将AI代理投入实际业务时,最先撞上的墙往往不是模型不够聪明,而是无法回答一个基本问题:谁在用这个代理访问什么文档和工具,在什么条件下?스켈터랩스 CTO 서종훈将这一困境概括为:AI代理引入的瓶颈不是模型性能,而是控制。
他给出了一个具体的失败场景:如果每个团队各自直接调用不同的大语言模型,公司层面就难以追踪成本发生在哪里,各团队的防护栏也各不相同,整个组织的控制水平无法保持一致。这不是假设性问题,而是生成式AI在企业中扩散后,实际部署AI代理时面临的权限管控难题。
서종훈的论点建立在一个判断之上:过去AI市场专注于训练更好的基础模型,但在代理时代,OpenAI、Claude等开放模型已经过验证,企业真正需要的不是自己造一个更强的模型,而是能在自己的环境中灵活、安全地管控这些现成模型。
为了将这一论点落地,스켈터랩스设计了BELLA平台,其核心思路是把AI代理的全部生命周期——创建、部署、协作——放在一个统一的控制基础之上运行。平台分为四个层级:身份层负责识别当前登录的最终用户,并将这一信息无中断地传递到代理执行的最后一步,即搜索和工具调用;政策层基于身份层传递的用户信息,对特定文档、工具和代理逐一判定访问权限,从源头阻断越权访问;AI网关层是所有大模型调用和代理间调用的唯一通道,在此集中执行按用户和部门的成本统计、预算上限、模型路由和安全防护栏;资产层则管理文档索引、MCP工具、工作流、提示词和技能等全部AI资产,按企业、团队、个人三级划分共享与隔离范围。
在防御层面,BELLA设置了四道关卡:数据和检索增强生成的完整性保护防止文档块被篡改,并在注册时过滤提示注入和隐藏字符;输入输出防护栏拦截注入攻击,并对韩国格式的个人信息、API密钥、内部IP和域名进行掩码处理;代理行为控制按风险等级强制人工审批,在隔离沙箱中执行代码,防止无限循环或越权工具调用;网关资源保护按用户和密钥限制令牌配额和请求频率,检测异常消耗模式。
서종훈进一步强调,平台不应是阻止变化的层,而应是吸收变化的层。模型和工具在快速更替,平台如果绑定某一款模型或某一个云,就会在技术迭代时成为负担。BELLA基于Kubernetes构建,支持本地部署和私有云,不依赖特定模型或云厂商。
这一论点有明确的商业语境:스켈터랩스正在销售BELLA平台,其合作伙伴메타넷集团提供从战略咨询到基础设施的端到端服务。平台架构描述来自厂商自述,尚未见独立验证。但서종훈指出的问题——多团队各自调用模型导致成本和防护不可控——是企业AI代理项目中常见的现实障碍。