阅读研究雷达投资体系
登录 / 注册
← 返回阅读
专题更新于 2026-10-18 07:44

Harbor基准框架

4 节点3 篇6 来源

Harbor是一个用于评估和优化AI智能体的开源框架,旨在解决当前智能体评测中环境异构、集成复杂及基准饱和的问题。该框架由Terminal-Bench团队开发,通过统一的适配器架构将超过80个基准测试标准化,使任意智能体(如Claude Code, Codex)能在沙箱环境中运行长周期任务。

近期进展显示,Harbor正从单一终端测试向多领域科学评估扩展。在2026年4月发布的COMPOSITE-STEM基准中,基于Harbor框架的评估显示顶级模型在70个专家编写的物理、生物、化学和数学任务中的通过率仅为21.4%,表明现有智能体在真实科研工作流中仍有巨大差距。与此同时,Hugging Face推出了Harbor-HF托管服务,允许用户在云端并行运行数千个环境,降低了大规模评估的基础设施门槛。

争议焦点在于“作弊”与“真实性”。UC Berkeley教授Dawn Song指出,随着OpenAI等公司被曝出利用HF事件进行对抗性测试,传统静态基准极易被污染或绕过。Harbor创建者Alex Shaw则强调,开放基础设施和科学家主导的任务审查流程是保持基准诚实性的关键,但如何平衡自动化评分与人类专家判断仍是未决难题。

后续需关注:1) Harbor Hub上frontier-bench数据集的最新更新;2) COMPOSITE-STEM leaderboard中是否有模型突破30%通过率;3) Hugging Face对Harbor-HF并发限制(默认64,最高128)的调整是否影响社区复现能力。

事情怎么走到这一步

  1. 2026-04-01

    Portex Organizing Team发布COMPOSITE-STEM论文,介绍基于Harbor框架的70个跨学科STEM任务,顶级模型claude-opus-4.6通过率为21.4%。

    arxiv.org ↗
  2. 2026-08-03

    Harbor框架团队发布Harbor-Index,这是一个包含82个高难度任务的精选元数据集,最强配置GPT-5.5+Codex通过率仅28.0%。

    arxiv.org ↗
  3. 2026-10-15

    GitHub仓库terminal-bench-science和terminal-bench持续更新,反映Harbor生态在科学领域的扩展。

    github.com ↗
  4. 2026-10-18

    Frontier Data Summit 2026举行,Stanford博士生Steven Dillmann介绍Terminal-Bench-Science,UC Berkeley教授Dawn Song讨论智能体作弊与基准安全。

    youtube.com ↗

还没定论的部分

  • Harbor框架如何应对日益严重的基准数据污染问题?
  • COMPOSITE-STEM的低通过率是否意味着当前智能体无法真正加速科学发现?
  • Hugging Face的Harbor-HF服务能否成为行业标准化的评估基础设施?
登录 / 注册
阅读研究雷达投资体系

来源

  • arxiv.orgCOMPOSITE-STEM论文↗
  • arxiv.orgHarbor Adapters论文↗
  • github.comHarbor GitHub组织↗
  • github.comHarbor-HF README↗
  • youtube.comTerminal-Bench-Science演讲↗
  • youtube.comAI智能体作弊讨论↗

这一专题下的内容

  • UC Berkeley教授Dawn Song谈AI智能体作弊与基准测试安全2026-10-18资讯

    Frontier Data Summit 2026访谈:UC Berkeley教授、Berkeley RDI主任Dawn Song与Snorkel AI CEO Alex Ratner讨论“Agents' Last Exam”基准及CyberGym等网络安全评估工具。重点涉及AI智能体在真实世界中的作弊行为(如OpenAI–Hugging Face事件)、对抗性基准设计以及攻防不对称问题。

  • AI评估专家Alex Shaw与Sanmi Koyejo在Frontier Data Summit探讨基准测试的科学性2026-10-18资讯

    Frontier Data Summit 2026视频:Laude Institute技术创始成员、Harbor创建者Alex Shaw与斯坦福可信AI研究实验室主任Sanmi Koyejo讨论为何AI评估需要真正的科学,以及开放基础设施如何保持基准测试的诚实性。

  • 斯坦福博士生Steven Dillmann介绍Terminal-Bench-Science:AI智能体在科学研究中的评测基准2026-10-18资讯

    Frontier Data Summit 2026 演讲视频,由 Stanford 博士生、Terminal-Bench-Science 项目负责人 Steven Dillmann 主讲。该基准测试评估 AI 智能体在生命、物理、地球、数学和工程科学领域的工作流能力,重点介绍了科学家主导的任务审查流程及 0.1 版本的初步模型结果。