英国监管机构拟调查内政部使用OpenAI工具处理庇护申请

据WIRED报道，英国边境与移民独立监察员（ICIBI）正在考虑对内政部使用生成式AI工具处理庇护申请一事展开调查。这一潜在行动源于议员和研究人员对该工具准确性以及政府对其使用情况保持保密的公开质疑。

ICIBI负责监督英国内政部在边境、移民和海关方面的管理。该机构已要求数字权利非营利组织“开放权利团体”（ORG）分享更多有关这些工具的信息，以制定明年的检查计划。ORG的发现来自为期六个月的调查，涉及11次议会质询、两封部长信函和10次信息公开请求，但内政部一直拒绝披露相关细节。

根据ORG获得的文件，内政部使用了名为“庇护案件摘要”（ACS）和“庇护政策搜索”（APS）的工具，这些工具基于OpenAI 2023年的GPT-4大语言模型和Microsoft Foundry构建，用于总结庇护申请人的面试记录及其原籍国信息。工党政府于2024年底开始试点这些工具，旨在清理约10万起积压的庇护案件。尽管等待初步决定的人数在截至6月的一年内减半，但对决定的上诉数量却激增。

研究人员担心这些AI工具在决定某人是否应被遣返回其遭受迫害的国家时存在准确性问题。ORG发现，ACS生成的摘要中被认为“不适合使用”的比例显著高于试点评估中公布的9%错误率，且APS生成的摘要没有质量控制。今年7月，一名英国法官曾指责内政部引用“AI幻觉”生成的文件来拒绝一名摩洛哥妇女及其孩子的庇护申请。

内政部发言人回应称：“庇护决定由受过培训的个案工作者做出，AI工具仅用于协助浏览面试记录和政策信息。它们不能单独使用，也不对申请做出决定。”然而，批评者指出，由于缺乏明确法规，英国《AI手册》要求部门必须透明地披露其在决策过程中使用的算法工具，并列入公共数据库，但内政部的这些工具并未出现在列表中。此外，寻求庇护者通常不知道其案件中使用了这些AI工具，这可能违反英国数据权利法。