AI身份验证可靠性争议
6 节点1 篇6 来源
主流人工智能在“反向图灵测试”中几乎无法可靠地识别其他AI，这一发现动摇了以AI作为身份验证工具的根基。法国巴黎西岱大学的研究显示，ChatGPT等模型在分辨人机时表现极差，对AI受试者的识别率仅约3%，甚至倾向于将AI误判为人类。与此同时，美国加州大学圣地亚哥分校的研究指出，无论是人类还是AI裁判，在被动阅读对话记录时准确率均低于随机猜测。这种技术局限与商业现实形成张力：尽管英国科学、创新和技术部推广Advai等对抗性评估方法，但Regula 2026年报告显示，全球52%的组织仍无法完全验证生物特征数据的实时性，41%难以区分真实与合成身份信号。争议的核心在于：当前的AI检测能力是否足以应对日益复杂的自动化欺诈？
事情怎么走到这一步
德国锡根大学学者在CoPDA会议上发表《反向图灵测试》论文，批判Meta等平台使用软件区分非人类活动（即“颠倒的图灵测试”）对用户造成的负面影响，主张以用户为中心的设计替代隐形RTT。
ceur-ws.org ↗英国科学、创新和技术部发布Advai案例研究，介绍一种超越传统样本图像数据集测试的方法，通过交叉评估身份验证供应商的AI系统来识别漏洞，旨在提高在线身份验证的韧性。
gov.uk ↗加州大学圣地亚哥分校团队在arXiv预印本中报告，在“倒置”和“位移”图灵测试中，GPT-4被判定为人类的频率高于真人，表明当前LLM和人类裁判在非交互式场景下均难以区分人与AI。
arxiv.org ↗Regula Forensics发布2026年全球搜索报告第二部分，基于850名决策者调查，指出52%的组织无法完全验证生物特征数据是否为实时捕获，41%无法自信地评估身份证据的真实性或合成性。
regulaforensics.com ↗意大利特里斯特大学等机构在CLiC-it会议提出RogueAI框架，实验显示虽然欺骗性AI存在语言特征，但人类玩家识别准确率仅为56.6%，凸显了人类检测AI欺骗能力的不足。
arxiv.org ↗