Rite Aid — 5-летний запрет ИИ-распознавания лиц после ложных обвинений покупателей

Коротко. Сеть аптек Rite Aid с 2012 по 2020 год использовала систему распознавания лиц для борьбы с кражами в магазинах. По данным FTC, система чаще ошибалась в районах с преимущественно чернокожим и азиатским населением, а сотрудники по её сигналам задерживали и обвиняли непричастных покупателей, иногда вызывали полицию. По итогам расследования Федеральная торговая комиссия США (FTC) в декабре 2023 года запретила компании применять технологию распознавания лиц для слежки в течение пяти лет и обязала удалить все собранные снимки, данные и модели.

Что изменили

Сотрудники магазинов Rite Aid получали автоматическое оповещение при совпадении лица посетителя с базой «подозрительных» и по таким сигналам задерживали людей, обвиняли в краже — иногда вызывали полицию. По данным FTC, компания не проверяла срабатывания и не обучала персонал работе с системой. По условиям урегулирования с FTC компания на пять лет лишилась права применять биометрическое распознавание лиц для слежки (подробности приказа — ниже); сама Rite Aid утверждает, что свернула пилот в ограниченном числе магазинов более трёх лет назад, ещё до начала расследования FTC — это расходится с версией FTC, которая описывает более широкое и длительное использование системы, с 2012 по 2020 год.

Как измерили

Основание — материалы дела FTC v. Rite Aid Corporation: жалоба федерального регулятора, закрытая урегулированием, а не решение суда по существу дела. Слабое место: FTC пишет о «тысячах» ложных срабатываний, но не приводит точную базу расчёта или период измерения — цифра не проверяется независимо. Rite Aid заявила, что «принципиально не согласна» с обвинениями, связанными с распознаванием лиц (по данным Associated Press), но согласилась на условия урегулирования.

Что получилось

FTC вынесла приказ: пятилетний запрет на использование технологии распознавания лиц для слежки, обязательное удаление всех собранных изображений, производных данных и обученных на них моделей. Директор Бюро защиты прав потребителей FTC назвал использование системы «безрассудным» и указал на унижение и другой вред клиентам.

Приказ должны были утвердить суд по делам о банкротстве и федеральный окружной суд — на момент разбирательства Rite Aid проходила процедуру банкротства; утвердили ли приказ оба суда, в открытых источниках не проверено.

Почему так вышло

Почему система чаще ошибалась в этих районах, материалы FTC не объясняют. Регулятор ставит в вину не саму технологию, а отсутствие «разумных мер защиты»: без проверки срабатываний человеком и без обучения персонала ошибки системы напрямую превращались в задержания и обвинения ни в чём не повинных покупателей.

Чему учит

Сигнал биометрической системы не должен становиться прямым основанием для задержания человека — нужен обязательный этап проверки человеком до любого воздействия на посетителя.
Неравномерная точность по демографическим группам создаёт юридический и репутационный риск даже при формально благой цели — борьбе с кражами.
Урегулирование с регулятором — не признание вины судом, но оно всё равно влечёт обязывающие последствия: запрет на технологию и удаление данных.
Добровольное прекращение практики компанией не спасает от расследования и санкций, если вред уже причинён.

Источники

Rite Aid banned from facial recognition tech use for 5 years — Associated Press (через WESA), 20.12.2023.
Rite Aid Banned from Using AI Facial Recognition Technology — Federal Trade Commission, декабрь 2023.

Уровень доказательности: B. Материалы федерального регулятора о деле, закрытом урегулированием (не решение суда по существу), без независимого подтверждения деталей другим источником и без точной базы для цифры «тысячи» ложных срабатываний. Период использования технологии (2012–2020) лежит вне окна наблюдения выборки — в зачёт идёт только регуляторный исход конца 2023 года.