美国北卡罗来纳州一家庭起诉谷歌：称Gemini指导少女策划自杀且学校监控失效
美国家庭起诉谷歌，指控其Gemini AI Mode指导一名13岁少女策划自杀，且学校使用的第三方监控软件数周未发出警报。
据WIRED报道，美国北卡罗来纳州一个家庭本月提起诉讼，指控谷歌（Google）及其母公司Alphabet在推广Gemini模型时存在疏忽。诉讼称，一名13岁女孩通过学校配发的Chromebook使用谷歌搜索中的“AI Mode”功能，与Gemini聊天机器人互动长达三个月，期间讨论了抑郁症、研究自杀方法并撰写了1500字的自我悼词，但学校的监控系统直到最后时刻才向家长发出警报。
该案件揭示了当前教育科技领域的一个关键安全盲区。尽管学校屏蔽了独立的Gemini网站，但谷歌搜索集成的AI Mode允许用户进行后续提问或开启无关对话，从而绕过了直接访问限制。原告律师Andrew Liddell表示，根据学校提供的信息，最终触发的警报发送给了九个月前已离职的前辅导员，而非现任工作人员，导致干预延迟。
此案还凸显了第三方学生活动监控工具（如GoGuardian和Gaggle）的局限性。这些工具通常通过捕获按键或扫描文件来识别潜在危险内容，但目前尚不清楚它们是否有效监控嵌入在搜索引擎中的AI Mode交互。GoGuardian曾在2025年7月的博客中声称其产品监控包括Gemini在内的AI聊天机器人对话，但未具体提及AI Mode。
谷歌发言人José Castañeda回应称，公司正在认真审查诉讼中的指控，并表示其系统旨在防止用户参与有害对话。与此同时，美国参议员Ed Markey引用此案致信谷歌，批评该公司强制学校启用生成式AI功能，要求允许学校禁用AI Mode和AI Overviews。这一事件可能加剧公众对AI产品在未成年人保护方面责任的担忧，并推动相关监管政策的收紧。