Внедрение китайскими властями системы распознавания лиц

Нет ничего криминального, если человек купил, например, кухонный нож. Но если вместе с ножом он еще купил мешок и молоток – такой человек для системы считается потенциально опасным.

В Москве начала работать система видеонаблюдения с функцией распознавания лиц, сообщает Департамент информационных технологий Москвы. Пока к системе подключено около трех тысяч камер, но в будущем планируется оснастить этой функцией все городские камеры, а их более 160 тысяч. Такая аналитическая система должна помочь правоохранительным органам ловить преступников, а значит, существенно повысить безопасность граждан.

Система работает на основе искусственного интеллекта и глубокого обучения нейросетей. Нейросети по определенному алгоритму анализируют видеозаписи с городских камер. Лица на записях сканируются и сравниваются с различными базами данных. Так, например, видеокамеры могут за короткое время сами найти преступника, объявленного в розыск. Департамент информационных технологий Москвы уже рапортует об успехах: во время пилотных испытаний система помогла найти более половины нарушителей закона, которых не могли разыскать несколько лет. А мировой опыт показывает: дальнейшее развитие технологий распознавания лиц с помощью искусственного интеллекта открывает перед правоохранительными органами фантастические возможности.

От штрафов и выше

В начале года в полицию китайского города Шэньчжэнь (深圳) обратился молодой мужчина. Он сообщил, что его трехлетняя дочь пропала. Случаи похищения детей в Китае не редкость, а раскрываемость таких преступлений раньше была крайне низка. Убитый горем отец никого не подозревал, совершенно не понимал, что могло случиться и куда могла пропасть его дочь. Зацепок у полицейских не было практически никаких.

Но на счету была каждая минута. Полицейские взяли у отца фотографию девочки, и поиск начался. Фотография была загружена в базу данных, нейросети стали ее сравнивать с данными районных видеокамер. В течение нескольких минут была обнаружена запись с уличной камеры, на которой видно, как неизвестная женщина идет по улице с пропавшим ребенком на руках.

Система распознала лицо похитительницы, предоставила ее паспортные данные. Полиция тут же выяснила, что на этот паспорт был куплен билет на поезд до города Ухань (武汉), что в тысяче километров от Шэньчжэня (深圳). Ориентировка была передана местным полицейским, которые и встретили преступницу прямо на перроне в Ухани. Ребенок был спасен. Вся операция длилась не более 15 часов.

Китай – лидер в области внедрения технологии искусственного интеллекта и развития умных систем видеонаблюдения. Если в России такая система работает пока в пилотном режиме в столице, то в Китае уже 20 миллионов камер слежения умеют распознавать лица и взаимодействовать с обширной базой данных.

Развитию технологии способствует два фактора. Во-первых, китайское законодательство в области защиты личных данных крайне неразвито. По сути, власти страны могут совершенно беспрепятственно собирать и использовать как угодно биометрические и другие личные данные своих граждан. Во-вторых, огромная численность населения страны позволяет скормить системе большой массив данных. А технология искусственного интеллекта работает таким образом, что чем больше ей предоставлено различных параметров и вариантов, тем лучше она обучается и более совершенной становится.

Хотя китайская система успешно себя показала в раскрытии тяжкого преступления с похищением ребенка, в основном она пока что используется для наказания за легкие правонарушения. В том же Шэньчжэне технология распознавания лиц помогает привлекать к ответственности пешеходов, которые переходят дорогу в неположенном месте. Даже если в поле зрения нет полицейского, камера все равно узнает нарушителя.

Денежных штрафов за такие нарушения пока не предусмотрено. Однако власти решили сыграть на чувстве стыда и столь важном исторически для всех китайцев желании сохранить лицо (要脸). По всему городу установлены экраны, на которых высвечиваются лица нарушителей и их имена. О какой защите личных данных может идти речь?

Высокие технологии позволяют бороться и с недоступными для традиционных полицейских камер нарушениями ПДД. В Шанхае (上海), Шэньчжэне и некоторых других крупных городах Китая запрещено неоправданное использование автомобильного клаксона. Но раньше такое нарушение мог зафиксировать только полицейский. А сейчас – пожалуйста. Камеры снабжены системой акустического сканирования изображений. Проще говоря, камера наблюдения замечает исходящий от автомобиля громкий звук, оценивает дорожную ситуацию, и, если ей кажется, что сигнал был применен необоснованно, владельцу автомобиля приходит штраф.

Области применения системы распознавания лиц в Китае бывают просто анекдотичными. Например, администрация парка при Храме неба в Пекине (北京天坛公园) решила многолетнюю проблему воровства туалетной бумаги из общественной уборной. Теперь при входе в туалет посетитель должен несколько секунд посмотреть на экран аппарата, который распознает его лицо и затем отматывает примерно 60 сантиметров бумаги. Если человеку этого количества не хватило – беда. Одному и тому же лицу аппарат выдает бумагу не ранее чем через девять минут.

Узнать и обезвредить

Это пока лишь первые шаги в области использования технологий искусственного интеллекта и распознавания лиц. А вообще у китайских властей на этот счет далеко идущие планы, которые сейчас кажутся фантастическими. В июле этого года Госсовет КНР опубликовал «Программу развития искусственного интеллекта нового поколения» (新一代人工智能发展规划). Согласно этой программе, отрасль искусственного интеллекта в Китае аккумулирует $22,8 млрд до 2020 года, а к 2025 году выйдет на первое место в мире с капитализацией $60 млрд.

Искусственному интеллекту отводится ведущая роль, например, в будущей судебной системе. «Нужно стимулировать применение искусственного интеллекта для сбора доказательной базы, для расследования дел, для анализа правовых документов с целью интеллектуализации системы правосудия», – говорится в программе. Есть еще один пункт программы, и он заслуживает особого внимания – применение искусственного интеллекта для обеспечения общественной безопасности и социальной стабильности.

В программе говорится: «Создать интеллектуализированную систему предупреждения преступлений и контроля общественной безопасности, исследовать и разрабатывать интегрированные технологии обнаружения, системы распознавания лиц, широко внедрять полицией и органами госбезопасности средства идентификации биометрических параметров для построения комплексной интеллектуальной системы контроля».

Что скрывается за этими размытыми бюрократическими формулировками, вскоре пояснил руководитель Политико-юридической комиссии ЦК КПК (курирует суды, прокуратуру и полицию, осуществляет контроль над сохранением политической стабильности, обеспечивает надзор за соблюдением линии партии в исполнительной и законодательной власти) Мэн Цзяньчжу (中央政法委书记孟建柱). Он сказал, что нужно использовать искусственный интеллект для предсказания и предотвращения еще не случившихся тяжких преступлений, главным образом террористических атак и социальных беспорядков.

По его словам, с помощью системы распознавания лиц, машинного обучения, анализа больших данных можно делать вполне достоверные прогнозы о возможных преступлениях и находить потенциальные источники нестабильности. «Искусственный интеллект может выполнять задачи с точностью и скоростью, недостижимой для людей. Эти технологии позволят совершить прорыв в области предсказания преступлений, точности и эффективности социального управления», – сказал Мэн Цзяньчжу.

Похоже, власти КНР в разработке программ на будущее часто ищут вдохновение в произведениях западных фантастов. Система социального кредита (社会信用体系), предполагающая тотальный цифровой контроль и присвоение каждому жителю Китая индивидуального рейтинга благонадежности, невольно ассоциируется с антиутопией Джорджа Оруэлла «1984». А планы внедрить искусственный интеллект для предотвращения преступлений похожи на фильм Стивена Спилберга «Особое мнение». Но как бы фантастично сейчас ни выглядели эти планы, уже ведется реальная работа по претворению их в жизнь.

Например, китайская компания Cloud Walk (云从科技) тестирует систему, которая не только распознает лица, но и анализирует походку человека, места его пребывания и его покупки. Если человек, скажем, посещает оружейные магазины, он становится подозрительным. По словам представителя Cloud Walk, нет ничего криминального, если человек, например, купил кухонный нож. Но если вместе с ножом он еще купил мешок и молоток, а также часто появляется в местах массового скопления людей, – такой человек для системы считается потенциально опасным.

Прелесть системы заключается в том, что она работает автономно. Сама собирает и обрабатывает массив данных с камер видеонаблюдения. И сама сообщает о подозрительных лицах в правоохранительные органы.

Пекинский университет авиации и космонавтики (北京航空航天大学) разрабатывает систему повторной идентификации – распознавания одного и того же человека в различных местах пребывания. Система может узнать одного и того же человека буквально по походке, даже если он каким-то образом изменил свое лицо.

Сообщается также, что система учится распознавать карманных грабителей с помощью анализа походки и поведения людей в общественных местах. Предполагается, что в будущем нейросети будут настолько умны, что смогут составлять поведенческий портрет человека на основании его действий и мест его пребывания и предсказывать, какое именно преступление и когда он может совершить. По словам заместителя министра науки и технологий КНР Ли Мэна (科学技术部副部长李萌), использование умных систем и технологий искусственного интеллекта позволит определять заранее, кто может совершить что-то плохое, кто может быть потенциальным террористом.

Алгоритм без подробностей

Зарубежный опыт показывает, что искусственный интеллект и нейросети могут значительно облегчить жизнь правоохранительным органам и совершить революцию в области обеспечения безопасности. Однако такой прогресс несет в себе и новые риски, в первую очередь юридические. Совершенно неясно, на каком основании, например, можно судить человека за то, что он еще не совершил.

Пока это лишь возможная проблема будущего. Но уже сейчас вполне резонен вопрос: как относиться к доказательной базе, собранной с помощью искусственного интеллекта? Можно ли верить машине, которая узнала лицо преступника? А если машина ошиблась? Это не такой уж праздный вопрос, если вдуматься в технологию, по которой обучаются нейросети.

Для наглядности можно рассмотреть процесс обучения программы AlphaGo. Это искусственный интеллект, который учился играть в го (围棋) и в конце концов обыграл сильнейших игроков. AlphaGo сперва научилась играть на уровне профессионального игрока в го на основе 30 миллионов ходов из игр между людьми. Но затем программа стала играть против себя, используя ход каждой игры, чтобы совершенствовать свое мастерство. Таким образом нейронные сети научились выбирать из возможных ходов лучшие решения, в зависимости от текущих параметров.

Проблема в том, что, когда процесс самообучения машиной запущен, человек не может отследить, на каком основании и по каким именно параметрам искусственный интеллект принимает то или иное решение. Иными словами, свое решение машина не объясняет. А значит, в случае возникновения коллизий система не сможет предоставить логическое обоснование сделанных выводов.

Наконец, самый простой вопрос: насколько правомерен сбор и обработка личных данных людей? Как было уже сказано, Китай вышел в лидеры в области технологии распознавания лиц и искусственного интеллекта во многом благодаря неразвитости законодательства в области охраны личных данных и конфиденциальной информации. А что делать, если эти данные будут украдены?

Такое в Китае случалось неоднократно, иногда с трагическими последствиями. Восемнадцатилетняя студентка из провинции Шаньдун (山东) умерла от сердечного приступа после того, как узнала, что перевела плату за обучение в университете мошенникам. Ей позвонили якобы из деканата и назвали номер счета, куда следует перевести деньги. Поскольку в ходе телефонного разговора мошенники называли ее по имени, знали специальность и номер группы, где она обучается, у студентки даже подозрений не возникло, что это может быть обман.

Очевидно, что внедрение новых технологий требует и новых мер по охране информации. Даже московская система видеонаблюдения с функцией распознавания лиц, находясь еще в зачаточном состоянии, уже несет в себе риски злоупотреблений. Председателя координационного совета Московского профсоюза полиции Михаила Пашкина цитирует «Интерфакс»: «Конечно, злоупотребления будут. Где же злоупотреблений не бывает. Но их количество будет уменьшаться с увеличением количества посадок и увольнений. Ведь данная система будет использована лишь в тех случаях, когда это необходимо. Если кто-то среди сотрудников той же полиции самостоятельно захочет что-то сделать, его найдут, накажут и уволят. Тут недавно один товарищ решил по внутренним базам правоохранительных органов пробить товарища Путина, его сразу уволили. Другой решил по базам пробить начальника УВД, его тоже уволили».

Остается надеяться, что новая система действительно пойдет на пользу обществу, а риски будут вовремя купироваться. Для самой же системы пока законодательных рисков нет. Федеральный закон №152 «О персональных данных» гласит: «Обработка биометрических персональных данных может осуществляться без согласия субъекта персональных данных в связи с реализацией международных договоров Российской Федерации о реадмиссии, в связи с осуществлением правосудия и исполнением судебных актов, а также в случаях, предусмотренных законодательством Российской Федерации об обороне, о безопасности, о противодействии терроризму, о транспортной безопасности, о противодействии коррупции, об оперативно-розыскной деятельности».