调查:可穿戴睡眠追踪器未经明确同意使用脑波数据训练AI模型
Science与普利策中心调查发现,多家神经科技公司积累数千万小时EEG数据用于训练AI基础模型,此前隐私政策未明确披露此用途。
据Tom's Hardware报道,Science杂志与普利策中心AI问责网络的一项最新调查发现,多家消费级神经科技公司正在利用用户脑电波(EEG)数据训练人工智能模型,而在此前并未在隐私政策中明确告知用户这一用途。这些公司积累了数千万小时的EEG记录,即大脑活动产生的电信号数据。
加拿大公司Interaxon是其中一家被点名的企业,其旗下产品Muse是一款用于睡眠和冥想监测的头带。该设备在用户睡眠期间监测大脑电活动及其他生理指标。Interaxon首席营销官Nadia Kumentas表示,该公司已使用约5万小时的EEG录音训练了一个AI模型,并称在使用数据前会移除姓名、电子邮件和地址等身份信息。然而,在与Science接触之前,Interaxon的隐私政策并未明确披露用户的脑部录音可能被用于训练基础模型。Kumentas承认:“我们同意应明确告知用户。”但对于那些数据已被使用的客户而言,这种分类来得太晚,这可能使公司面临潜在的诉讼风险。
另一家可穿戴EEG制造商Emotiv也在部分使用其高端设备用户的录音来训练其“Large Brain”模型。在Science提出质疑后,Emotiv更新了其隐私政策,披露了在用户选择加入(opt-in)同意的情况下,将去标识化的神经数据用于模型训练。
这类AI系统的训练逻辑与大语言模型不同。开发者并非向AI提供海量文本,而是提供大脑电活动的录音。模型随后学习重复出现的模式,以适应识别不同的脑状态或协助特定的研究任务。例如,AI初创公司Piramidal与克利夫兰诊所合作,在其超过400万小时的EEG数据上训练了模型,开发出一套癫痫检测系统,在试点研究中能正确识别十分之九的癫痫发作。不过,这并不意味着消费级头带能读取人的思想,因为大多数可穿戴EEG设备仅使用一到六个电极,远少于临床EEG系统中常见的19到25个电极,且记录通常不够全面。
隐私问题在可穿戴脑技术行业中并非新鲜事。今年二月,一名工程师发现他可以通过购买的智能睡眠面罩访问其他人的脑波录音。此外,调查显示,超过三分之二的受研究公司明确允许在没有用户同意的情况下进行企业间的数据转移。如果一家小型神经技术公司被收购,其积累的录音可能会落入新所有者手中。目前,美国科罗拉多州和加利福尼亚州已修改消费者隐私法以涵盖神经数据,但其他州仍滞后于这一监管需求。