The Verge高级记者Victoria Song:Apple Siri Recap的隐私架构让AI更难用
The Verge记者Victoria Song对Apple Watch的Siri Recap功能进行了两周实测,发现苹果为保护隐私所做的架构选择——不训练用户语音、不标注说话人归属、不保存原始音频——使AI更难区分对话与媒体播放、更难判断什么对用户个人重要,最终导致摘要频繁出错且缺乏实用价值。她认为更好的隐私往往意味着更不实用的AI产品。
The Verge高级记者Victoria Song在Apple Watch Ultra 4上测试Siri Recap两周后,得出了一个判断:更好的隐私往往意味着更不实用的AI产品。苹果为这款环境感知摘要工具做了多项隐私保护设计——不训练用户语音、不保存原始音频、摘要中不标注说话人归属——但Song发现,这些选择直接影响了AI的实用能力。
最具体的失效来自不训练语音这一决定。因为Siri没有学习过Song的声音特征,它很难判断什么时候Song真正在跟人说话,什么时候只是手机外放在播放内容。Song用手机外放观看一条TikTok,一位慢性病患者讲述自己被送进急诊室的情况,Siri Recap把这段视频摘要成似乎Song本人或她认识的人被送进了急诊室。另一条TikTok讨论Reddit上AITA帖子中一个叫Dana的人试图勾引闺蜜丈夫的故事,摘要结果读起来像是Song本人在凌晨两三点带着Dana的亮片回家。Song指出,只要她戴着AirPods,Siri Recap就自动关闭,这意味着她需要调整自己的行为来适应AI的识别缺陷。
第二个机制是摘要中没有说话人归属。苹果刻意不在摘要里标注谁在什么时间说了什么,目的是防止这些记录被用作争吵、法庭证据或勒索工具。但去掉归属后,摘要经常把别人的故事写成用户的经历。Song还发现Siri Recap严重偏好复述事实和统计数据,而忽略用户个人觉得最有价值的信息。在一次采访中,她觉得最有趣的是受访者关于RFK Jr.的个人轶事和强烈观点,但摘要只保留了更具体的事实细节。
Song的最终评估是,这类环境感知可穿戴设备在低风险的、所有人都同意的简单场景中确实有用,但在日常生活的复杂社交环境中,它带来的社会成本——需要向每个人解释你的手表在录音、需要回答关于隐私处理的追问、需要权衡是否每次对话前都有精力做伦理披露——可能超过了它能提供的记忆辅助。她认为,更好的隐私往往意味着更不实用的AI产品,苹果选择限制AI对用户的了解,这保护了隐私,但也让AI失去了做出正确判断所需的上下文。
不过Song也承认,在少数工作场景中Siri Recap确实帮到了她,比如产品简报和采访后的主题回顾,功能仍处于测试阶段。她的整体判断是,目前这项技术还不是帮助记忆或保持专注的答案——每当她忘记事情时,负面后果很少真正不可逆转地改变生活;每当她不专注于当下时,通常是因为她在看手机。