道琼斯AI治理负责人Ingrid Burschlen:同一AI工具,用途不同则审批结果不同
道琼斯数据智能与AI治理总副总裁Ingrid Burschlen在接受韩国《电子新闻》采访时,介绍了该公司在AI代理进入决策领域后建立的用途导向审批机制:员工引入任何AI工具须经AI运营委员会按具体使用目的评估风险,同一工具在不同用途下可获得不同批准结果。委员会每两周召开一次,成员涵盖法务、新闻、技术、数据科学等部门,刻意保持小规模以加快决策。
重要性实质性证据E3 可检验写法标准
当AI代理开始参与业务决策而不只是生成信息时,企业面临的核心问题不仅是技术安全,还包括权责划分。道琼斯数据智能与AI治理总副总裁Ingrid Burschlen在首尔接受韩国《电子新闻》采访时提出:必须明确区分哪些决定可以交给AI代理,哪些必须由人类亲自做出。
道琼斯的应对方式不是按工具名称建立黑白名单,而是按用途审批。员工引入任何新的AI工具,须提交AI运营委员会审查。委员会确认具体使用目的和工作场景特征,评估网络安全、隐私保护等风险要素,再决定批准与否。同一款AI工具,换一个用途就可能从获批变为不获批。这种机制的前提是:AI的风险不由模型本身决定,而由它被要求做什么决定。
委员会在OpenAI ChatGPT出现后成立,成员来自法务、新闻编辑室、营销、技术、数据科学、传播和合作伙伴等部门。Ingrid Burschlen特别提到,委员会刻意保持小规模以加快决策速度,但每两周召开一次会议,确保风险评估充分展开后再做决定。这套节奏的目标之一是最大限度降低企业内部未经授权的'影子AI'使用可能性。