马里兰四名学生起诉AI枪支检测公司Omnilert,因多力多滋薯片被误认为枪械
学生起诉Omnilert及警方,AI将零食袋误判为枪支导致拘留,凸显校园安防系统高误报率风险。
马里兰州一所高中的四名现任和前任学生已对Omnilert提起诉讼,该公司开发了一种AI枪支检测系统。被告还包括巴尔的摩县警察局、教育委员会、个别警官以及学校校长。此次法律行动源于2025年10月20日的一起事件,当时AI系统将一袋多力多滋(Doritos)薯片错误识别为枪支,导致武装警察拘留了这些学生。
据起诉书称,Omnilert Gun Detect系统扫描监控视频,并以90%的置信度标记该薯片袋为武器。尽管学校工作人员和当地警察审查图像后确定这是一个错误,但警报持续存在。学生们被命令跪下,并被拔枪的警察戴上手铐进行搜查。一名警官在离开现场时据称对此事开了玩笑。
原告指控由于技术和人为错误导致的非法拘留和搜查。代表学生的“民权律师委员会”总裁兼执行主任Damon Hewitt表示,该技术“容易产生误报”,未能保护学生。诉讼引用了马里兰州教育监察长办公室的发现,该办公室报告称,在巴尔的摩县公立学校中,超过99%的Omnilert Gun Detect (OGD)警报均为无需警察响应的误报。
虽然Omnilert将其产品宣传为可靠且能带来“更少的误报”,但诉讼对此提出了质疑。Omnilert发言人此前告诉《巴尔的摩横幅报》(Baltimore Banner),该公司正在审查此诉讼,并对给学生及其家庭带来的恐惧表示遗憾。巴尔的摩县发言人拒绝就未决诉讼发表评论,理由是学区政策。