Amazon запретила полиции использовать свою технологию распознавания лиц

Amazon объявила о запрете использования полицией созданного компанией инструмента для распознавания лиц под названием Rekognition. Соответствующее распоряжение опубликовано в официальном блоге бренда.

«Мы вводим однолетний мораторий на использование полицией технологии распознавания лиц Amazon.

Правозащитные организации, в том числе Thorn, International Centre for Missing & Exploited Children и Marinus Analytics, могут продолжить использовать Rekognition для помощи жертвам работорговли и для воссоединения пропавших детей и их семей.

Мы выступали за то, чтобы правительства ввели более строгие правила, регулирующие этическое использование технологии распознавания лиц, и конгресс, похоже, готов принять этот вызов. Мы надеемся, что этот однолетний мораторий даст конгрессу достаточно времени для внедрения регулирования, и мы готовы оказать свою помощь, если это потребуется», — говорится в обращении Amazon.

Компании пришлось пойти на этот шаг в связи с обвинениями в лицемерии со стороны ее сотрудников и правозащитников — они указали на тот факт, что Amazon выступил в поддержку протестующих в связи с убийством полицейским Джорджа Флойда, но при этом продолжает продавать свои технологии правоохранительным органам.

«Сколько контрактов с полицией вы прекратили? А сколько осталось?» — вопрошает группа активистов в Twitter.

Кроме того, саму Rekognition обвиняли в расизме, напоминает The Verge. В 2018 году было опубликовано исследование, которое утверждает, что технологии распознавания лиц большинства крупных компаний, включая Amazon, плохо различают лица темнокожего населения — на десятки процентов хуже, чем представителей других рас. Это связано с тем, что эти инструменты «тренируют» на фотографиях преимущественно белых мужчин, из-за чего у системы появляется своеобразная предвзятость.

В 2019 группа исследователей провела более подробный анализ Rekognition и выяснила, что, если ее объектами становятся темнокожие, то технология имеет трудности даже при идентификации пола человека.

Если же речь идет о европеоидах, то вероятность ошибки системы сводится практически к нулю.

При этом сотрудники Amazon выступали против продажи Rekognition полиции еще два года назад. Тогда генеральному директору Джеффу Безосу и другим высшим менеджерам компании было направлено письмо, подписанное 450 работниками, в котором они просят отказаться от разработки Rekognition, а также программы для работы с данными Palantir, которой часто пользуются американские спецслужбы. Свое требование сотрудники Amazon обосновали нарушением гражданских свобод американцев и превращением США в полицейское государство.

Тогда вице-президент Amazon Тереза Карлсон заявила, что компания всецело приветствует клиентов из правоохранительных органов, оборонного сектора и спецслужб, даже если не знает, «для чего именно они используют купленные технологии».

«Amazon много говорит о ценности лидерства. Если мы хотим лидировать, то должны выбрать между людьми и деньгами. Мы можем и дальше продавать системы слежения полиции, а можем выступить за то, что правильно. Либо одно, либо другое», — говорилось в письме сотрудников компании. Однако Безос, который, по его собственным словам, готов к принятию «непопулярных решений», проигнорировал мнение сотрудников, отказавшись от продажи Rekognition полиции только тогда, когда недовольство действиями правоохранительных органов вылилось в общенациональный протест.

При этом в заявлении Amazon ничего не говорится о том, что предпримет компания, когда одногодичный мораторий подойдет к концу. Не исключено, что в 2021 году, когда протесты стихнут, а ситуация стабилизируется, Amazon вновь тихо вернется к контрактам с органами.