×
×

Восстановление пароля по логину или SIP ID

Microsoft призвала власти спасти человечество от распознавания лиц

Президент и главный юрист Microsoft призвал правительство США выработать регулировки в сфере машинного распознавания лиц. Заявление прозвучало после того, как недавно Microsoft обвинили в предоставлении подобных технологий правительству для разделения семей иммигрантов на границе. Microsoft утверждает, что умышленно замедляет развитие своих технологий в этой сфере.

Заявление Брэда Смита

Президент и главный юрист Microsoft Брэд Смит(Brad Smith) выступил с заявлением, что технологии распознавания лиц нуждаются в правительственном регулировании. Заявление было опубликовано в блоге компании.

Смит пишет, что, как и любая технология, распознавание лиц может приносить и пользу, и вред. Он считает, что использование подобных механизмов порождает целый ряд вопросов о защите прав человека, в том числе права на приватность и свободу самовыражения. В связи с этим президент Microsoft говорит о необходимости «продуманного правительственного регулирования» и «разработки норм допустимого использования» машинного распознавания лиц.

Технологии как в «1984»

Смит поясняет, почему заговорил о необходимости регулирования именно сейчас. По его словам, в течение нескольких лет механизмы машинного распознавания лиц просто занимались каталогизированием фотографий и поиском соответствий в этих каталогах. Однако по мере развития компьютерного зрения, совершенствования видеокамер, накопления видеоданных онлайн и роста популярности облачных решений все изменилось. Сейчас лицо человека можно распознать в видеопотоке в реальном времени через облако, и количество мест, где при этом может находиться человек, растет. Такое положение вещей Смит считает уже слишком глубоким вмешательством в жизнь общества.

Президент Microsoft отмечает несомненную пользу, которую приносят эти технологии в поиске пропавших детей, отслеживании террористов и идентификации пользователей на персональных устройствах. Но одновременно он предупреждает, что такие механизмы могут дать правительствам возможность следить за гражданами, а крупным компаниям — мгновенно обмениваться данными о потреблении этими гражданами товаров и услуг без их согласия. Получившуюся картину Смит сравнивает с ситуацией в романе-антиутопии Джорджа Оруэлла «1984».

Также президент Microsoft затрагивает проблему неодинаковых успехов технологий распознавания лиц в работе с лицами представителей различных рас и национальностей. Белые мужчины распознаются ими с большей точностью, чем белые женщины, а светлокожие люди вообще — с большей точностью, чем люди с более темным цветом лица. Кроме того, алгоритмы в любом случае периодически допускают ошибки.

Microsoft и разделение семей

Смит также останавливается на инциденте, имевшим место в июне, когда в социальных медиа распространилась информация о контракте Microsoft с Иммиграционной и таможенной полицией (ICE) США, по которому компания якобы предоставляет ICE технологии распознавания лиц, которые используются для установления личностей иммигрантов на мексиканской границе и в конечном счете — для разделения семей, в том числе если речь идет о разделении детей с родителями. Информация об этом контракте появилась в блоге Microsoft в январе, но там о распознавании лица речь не шла.

В ходе разгоревшихся дебатов Microsoft заявила, что технологии, которые она поставляет ICE, не используются для распознавания лиц. В контракте речь идет о таких продуктах как почта, календарь, средства управления документами и обмена сообщениями, сообщила компания. Эти продукты Microsoft используется во многих госведомствах, в том числе в ICE.

Смит отмечает, что похожие проблемы возникли и у других компаний, в том числе у Amazon, сотрудники которой недавно выступили против контракта с ICE, после того как Американский союз гражданских свобод выразил опасения насчет использования правительством технологий распознавания лиц в рамках этого контракта. Также против использования иммиграционными службами продукции их компании выступили сотрудники Salesforce.

Предложения по регулированию

Смит обозначил ряд вопросов в сфере машинного распознавания лиц, которые должны быть отрегулированы государством. Например, можно ли данные таких систем использовать в качестве самостоятельного доказательства вины или невиновности в суде, а также следует ли ввести общественный контроль за использованием подобных технологий в целях обеспечения национальной безопасности. Кроме того, должно быть отрегулировано применение правительством машинного распознавания лиц для расового профилирования, то есть причисления граждан к категории потенциальных подозреваемых на основе их расы, национальности или религии.

Также Смит задается вопросом, следует ли установить порог необходимой точности распознавания лица для таких технологий, нужно ли обязать ритейлеров сообщать потребителям, если подобная система используется в публичном месте, должны ли компании получать предварительное согласие пользователя на распознавание его лица, а если да, то в каких местах и ситуациях это можно применить, и каким именно способом запрашивать это согласие. Президент Microsoft также предлагает обдумать, должно ли быть у пользователя право знать, какие его фотографии были собраны и хранятся в базе, и в каком правовом порядке пользователь может опротестовать результаты распознавания, если он полагает, что система допустила ошибку.

Смит предлагает Конгрессу — парламенту США — создать экспертную комиссию, куда войдут представители обеих партий и которая займется разработкой таких регулировок.

Почему Microsoft медленно развивается в этой сфере

Смит также рассказал, какие меры безопасности этой сфере принимает со своей стороны Microsoft. По его словам, компания старается не выпускать незрелые технологии, которые хуже распознают женщин и темнокожих людей, чем белых мужчин. Также Microsoft старается следовать принципам открытости и прозрачности исследований в этой сфере, регулярно оценивая риски возможного нарушения прав человека.

Кроме того, Смит утверждает, что Microsoft умышленно идет по пути замедления внедрения полного диапазона технологий распознавания лиц, стараясь сделать этот процесс более осознанным. Президент Microsoft пишет, что в целом такой подход не характерен для технологических компаний, которые стремятся внедрять инновации как можно быстрее, чтобы подстегнуть технический прогресс.

Источник: cnews.ru