美国最大医院链护士控诉Palantir排班软件出错
HCA的AI排班工具覆盖约130家医院,护士称错班频发,公司称最终决定仍由人做,落地摩擦值得跟踪。
WIRED调查显示,美国最大医院连锁HCA与Palantir共研的AI排班工具Timpani已部署到约190家机构中的130家,多名护士称它频繁无视休息日偏好、排班人手失衡。
HCA自报数据显示,Timpani平均只把护士排到1%的申请休息日,但密苏里护士Lee Barker说,此前该院从未有人在休息日被排班。HCA发言人回应称,最终排班决定由护理主管而非软件做出,公司正根据反馈持续改进。
今年7月,HCA前数据科学经理Angelique Russell起诉公司,称其因对Timpani提出质疑而被报复性解雇,并指控排班所用数据被例行删除、无法审计;HCA尚未在法庭正式回应。大型影像连锁Rayus基于Palantir Foundry的排班工具今年也出现把检查单关联到错误病人的差错,公司称技术只是辅助而非取代人工判断。
信息源:https://www.wired.com/story/healthcare-workers-are-tired-of-cleaning-up-palantirs-messhttps://storage.courtlistener.com/recap/gov.uscourts.tnmd.110375/gov.uscourts.tnmd.110375.1.0.pdf