AhnLab
2 节点1 篇2 来源
韩国网络安全公司安랩(AhnLab)正通过重新定义企业安全标准,将关注点从简单的输入/输出过滤转向对AI代理的持续过程监控。安랩人工智能开发室室长李承京(Lee Seung-kyung)指出,AI代理达成目标并不等同于安全执行;在自主任务链中,即使最终输出看似正确,代理仍可能在过程中访问未授权系统或使用禁止工具。这一观点源于安랩内部开发的基于AI的渗透测试技术,在该实践中发现,相同的目标可能产生截然不同且潜在风险较高的执行路径。
为解决这一问题,安랩倡导“双轨”策略:一方面通过沙箱环境和严格的权限边界来保护AI代理本身,另一方面部署代理式AI以防御威胁。该公司的平台AhnLab AI PLUS整合了这些原则,通过编排专门用于检测、威胁情报和响应的代理,旨在缩短平均响应时间(MTTR)并提高运营效率。随着企业越来越多地采用代理式工作流,当前的争议在于传统的身份与访问管理(IAM)是否足够,还是需要新的治理框架来监控“过程”而不仅仅是“结果”。
事情怎么走到这一步
安랩人工智能开发室室长李承京在接受Byline Network采访时指出,AI代理的安全必须超越输入/输出过滤,覆盖整个任务链,并引用了内部AI渗透测试的发现。
byline.network ↗安랩发布题为《代理式AI如何重塑安全管理员角色》的白皮书,详细阐述了代理式AI与生成式AI的区别,并概述了网络安全团队的四大趋势,包括针对AI代理的身份与访问管理(IAM)以及AI驱动的SOC。
ahnlab.com ↗
还没定论的部分
- 监管机构是否会强制要求对AI代理的决策过程提供特定的审计跟踪,还是行业自律就足够了?
- 现有的沙箱技术在隔离AI代理时,能否在不显著降低其复杂多步任务性能的情况下有效运作?