韩国AI安全公司Xenon发布企业级生成式AI防护解决方案“GenGuard”

韩国AI安全公司Xenon（제논）于10月26日宣布推出名为“GenGuard”（젠가드）的企业级生成式AI安全防护解决方案。该方案旨在应对生成式AI服务面临的安全威胁，其核心功能是根据企业环境和安全政策对AI服务的输入和输出进行判定与拦截。

GenGuard最初是Xenon旗下生成式AI平台“GenOS”内置的防护功能，现被开发为独立的解决方案。该产品允许用户通过自然语言直接设定安全策略，无需单独训练模型。它能够控制AI的请求与响应，并针对有害内容、绕过AI安全机制的越狱尝试以及提示词攻击提供防御。此外，它还具备隐私保护功能，能检测身份证号、账号等结构化信息以及姓名、地址等非结构化个人信息，并对发送至外部AI服务的敏感数据进行掩码处理以防止泄露。

在技术验证方面，Xenon表示GenGuard支持观察模式，企业可在正式启用前验证拦截结果及其对业务的影响，并分析误报案例。该方案也支持在内部服务器或封闭网络环境中进行本地化部署（On-premise）。

Xenon同时发布了自研轻量级防护模型“GenGuard 1.0 Light”以及韩语政策评估数据集“KSPG-Bench”。据该公司称，在自身进行的性能评估中，GenGuard 1.0 Light在5款公开防护模型的平均得分对比中以84.3分位列第一。这一数据为厂商自测结果，尚未经过第三方独立验证。