美国连锁药房启用面部识别防贼 被指针对亚裔非裔
联邦贸易委员会(FTC)指责连锁药房Rite Aid,在推出面部辨识系统打击盗窃的过程中,常常因为系统缺陷而犯错,导致亚裔及非裔顾客常被判断为小偷,几率明显高于白人,可见少数族裔遭受不公平针对,Rite Aid需要停用系统5年。
综合CNN及NBC报道,FTC投诉后已与Rite Aid达成和解协议,公司同意未来5年停用相关系统。FTC表示,Rite Aid在数百间店铺使用AI软件面容辨识系统,借此判断哪些人“可能曾经店铺盗窃或有其他犯罪行为”,然后授权职员将相关人士赶出店铺,或者阻止对方入内。由于系统经常出错,令不少无辜顾客误被标签为罪犯,继而受到员工公开羞辱、扣留甚至搜查。Rite Aid则发表声明,称乐意与FTC达成协议,但公司不同意政府对面部辨识系统的指控,强调系统仅在少数店铺使用,而且在3年前FTC尚未调查时已经停用。
FTC的投诉状形容,Rite Aid曾经委托两间公司建立个人图像数据库,收集曾经犯下店铺盗窃或其他罪行人士的多种数据,包括姓名、犯罪背景,以及保安镜头摄得的低分辨率图像等,店方并在未有知会顾客的情况下,于2012至2020年间,秘密在数百间店铺使用辨识系统,比对顾客样貌防范盗窃。
FTC批评,Rite Aid的辨识系统至少触发数千宗误报个案,某些顾客被标签后,有时纪录中的犯罪可能在数千哩之外,也有人错误被指曾在全国各地数十间店铺犯案。非裔和亚裔的误认几率比白人更高,女性几率也高于男性,考虑到Rite Aid的系统主要安装在亚裔、非裔、西裔聚居的社区,因此已经损害少数族裔权益。对此,FTC消费者保护局局长莱文(Samuel Levine)批评,Rite Aid“鲁莽地使用面部辨识系统,令顾客受到羞辱和其他伤害”,这项行为违规的同时,也使消费者的敏感资料面临风险。
这次是FTC首次勒令实体机构停用面部辨识系统,但和解协议中没有施加罚款。