可纠正性研究基金追加4.8万美元奖励近期论文
追溯奖励机制连续第二轮发放,12月还计划超6万美元,能否常态化值得留意。
可纠正性研究基金9月30日宣布追加4.8万美元,奖励约十几个团队、二十多位研究者的可纠正性(corrigibility,让AI接受人类纠正的研究方向)论文。
基金管理人Max Harms在7月已发放过2.7万美元首轮奖励,并计划12月再发超6万美元。最高单项1.4万美元给了Rubi Hudson的可纠正性变换论文。
评选由Harms一人决定,他自述奖项偏临时、金额不必当真,且刻意排除了Yudkowsky、Christiano等已成名的资深研究者。
信息源:https://www.lesswrong.com/posts/3uJqhrC2idf4eNj5h/corrigibility-prizes-for-existing-work