LectureRechercheRadarCadre d'investissement
Connexion / Inscription
← Retour à la lecture
SujetRédaction DisconfirmAIMis à jour 2026-10-04 14:52

可纠正性研究基金

7 étapes1 pièces3 Sources

可纠正性研究基金(Corrigibility Research Fund)是 Lightcone Infrastructure 旗下、由 Max Harms 管理的小型 AI 安全资助项目,2026 年至少发放 20 万美元,资助让 AI 保持"人类知情且可控、不抗拒被纠正"的可纠正性研究。它走双轨:事前申请的资助(单笔 5千–3.5万美元,一封邮件即可申请)与无需申请的追溯奖励,后者分两波发放。9 月 3 日公布首轮 8 笔资助共 13.2 万美元,9 月 30 日发出第一波奖励共 7.5 万美元,10 月 1 日又追加 4.8 万美元奖励近期论文,12 月中旬还计划发放超 6 万美元的第二波。与 Schmidt Sciences、ARIA 等九位数级别的大项目相比,它的意义在于低门槛:独立研究者和小团队用一下午就能申请。其理论赌注是 Harms 的主张——可纠正性比直接对齐目标更稳健,因为它是迭代式的、容得下人类纠错;硬性约束是研究不得加速 AI 能力。能否把追溯奖励做成常态化机制,材料本身也标注为待观察。

【背景】可纠正性指 AI 主动帮助操作者发现并修复自身缺陷的性质,区别于"一次把目标对齐到位"的价值对齐路线。

Comment on en est arrivé là

  1. 2026-07-17

    基金正式宣布设立,说明其定位、可纠正性研究的界定及资助与奖励双轨机制。

    corrigibilityresearch.org ↗
  2. 2026-08-04

    Granted AI 发文详解该基金:2026 年至少发放 20 万美元,资助单笔 5千–3.5万美元,首轮申请截止 8 月 23 日,奖励分 9 月底约 4 万与 12 月中 6 万+两波。

    grantedai.com ↗
  3. 2026-08-23

    第一轮资助申请截止。

    grantedai.com ↗
  4. 2026-09-03

    公布首轮 8 笔资助共 13.2 万美元及荣誉提名,同时发布申请评审方法说明。

    corrigibilityresearch.org ↗
  5. 2026-09-30

    发出第一波"现有工作奖励",总额 7.5 万美元,无需申请、追溯认可 2026 年内的可纠正性研究。

Connexion / Inscription
LectureRechercheRadarCadre d'investissement
corrigibilityresearch.org ↗
  • 2026-10-01

    基金追加 4.8 万美元奖励近期论文,为追溯奖励机制连续第二轮发放;12 月还计划发放超 6 万美元。

    lesswrong.com ↗
  • 2026-10-31

    第二轮资助申请截止。

    corrigibilityresearch.org ↗
  • Ce qui reste non résolu

    • 追溯奖励能否常态化:10 月 1 日已是连续第二轮发放,12 月中旬超 6 万美元的第二波是否如期落地是直接检验。
    • 第二轮资助(10 月 31 日截止)的获资助名单与金额。
    • 这种小额、低摩擦模式在 AI 安全资助格局中是否会被更大机构复制,材料未给出判断。

    Sources

    • corrigibilityresearch.org基金官网↗
    • lesswrong.comLessWrong 奖励公告↗
    • grantedai.comGranted AI 深度报道↗

    Couverture dans ce sujet

    • Corrigibility fund adds $48,000 in prizes for recent papers2026-10-01Actualités

      A second retroactive prize round lands, with over $60,000 planned for December; whether it becomes routine is what to watch.