Сотрудники ФБР используют систему распознавания лиц без должного обучения
ФБР использует систему распознавания лиц без обучения
Федеральное бюро расследований США (FBI) за последние годы провело десятки тысяч поисков по лицам с использованием программного обеспечения от сторонних поставщиков. Однако только 5 процентов из 200 агентов, имеющих доступ к этой технологии, прошли трехдневный курс обучения, предоставляемый бюро, по использованию этой технологии, как указывает доклад Государственного счетного палата (GAO), опубликованный в этом месяце. Бюро не имеет установленной политики использования технологии распознавания лиц для защиты конфиденциальности, гражданских прав или гражданских свобод.
Законодатели и другие заинтересованные лица, опасающиеся применения технологии распознавания лиц, считают, что необходимо обеспечить достаточное обучение по использованию этой технологии и интерпретации ее результатов для снижения неправомерного использования или ошибок, хотя некоторые эксперты говорят, что обучение может усыпить бдительность правоохранительных органов и общественности, заставляя их считать распознавание лиц низкорисковым.
С момента ложного ареста Роберта Уильямса в окрестностях Детройта в 2020 году в США возникло несколько случаев арестов после того, как модель распознавания лиц неверно идентифицировала человека. Алонзо Сойер, чья история стала известна весной этого года, провел девять дней в тюрьме за преступление, которого он не совершал. Отсутствие обучения по распознаванию лиц в FBI стало известно из доклада GAO, исследовавшего меры защиты при использовании этой технологии федеральными правоохранительными органами. Доклад был составлен по запросу семи демократических членов Конгресса.
Автор доклада и директор по вопросам национальной безопасности и правосудия GAO Гретта Гудвин заявила по электронной почте, что не обнаружила никаких доказательств ложных арестов в результате использования федеральным правоохранительным агентством технологии распознавания лиц. Представитель FBI отказался отвечать на вопросы о докладе GAO для этой статьи.
Доклад GAO фокусируется на инструментах распознавания лиц, созданных коммерческими и некоммерческими организациями. Это означает, что он не охватывает внутреннюю платформу распознавания лиц FBI, ранее критикованную GAO из-за недостаточной защиты конфиденциальности. Министерство юстиции США было поручено Белым домом в прошлом году разработать лучшие практики использования распознавания лиц и сообщать о любых изменениях в политике.
- Последнее применение искусственного интеллекта Spotify переводит го...
- Новые чат-боты для ролевых игр обещают удовлетворить ваши сексуальн...
- Новый пакет Roku Express 4K от Roku запускается эксклюзивно на Amazon
Внешние инструменты распознавания лиц, используемые FBI и другими федеральными правоохранительными органами, поставляются компаниями, включая Clearview AI, которая собрала миллиарды фотографий лиц из Интернета для обучения своей системы распознавания лиц, и Thorn, некоммерческой организацией, борющейся с секс-торговлей, применяющей распознавание лиц для идентификации жертв и торговцев сексом на основе изображений из коммерческого онлайн-рынка секс-услуг. FBI занимает первое место среди федеральных правоохранительных агентств, исследованных GAO, по масштабу использования распознавания лиц. Более 60 000 поисков были проведены семью агентствами с октября 2019 года по март 2022 года. Более половины из них были сделаны агентами FBI, около 15 000 с использованием Clearview AI и 20 000 с использованием Thorn.
Ни один существующий закон не требует, чтобы сотрудники федеральных правоохранительных органов проходили обучение перед использованием распознавания лиц или следовали каким-либо стандартам при использовании распознавания лиц в уголовном расследовании.
Как указано в докладе, Министерство юстиции планирует разработать политику по гражданским правам и гражданским свободам в отношении использования распознавания лиц в рамках всего ведомства, но пока не назначило дату планируемой реализации. Он говорит, что в какой-то момент в 2022 году должно было быть обновление политики Министерства юстиции, позволяющее только совпадению распознавания лиц оправдывать обращение за ордером на обыск.
Коммерческие инструменты распознавания лиц, используемые FBI и другими федеральными агентствами, пытаются сопоставить фотографию подозреваемого или жертвы с изображениями лиц в базах данных, которые могут содержать миллионы изображений. После того, как программное обеспечение предлагает список возможных совпадений, люди решают, на кого следует провести дальнейшее расследование.
Согласно отчету Национального института стандартов и технологий, коммерческие модели распознавания лиц в США чаще ошибочно идентифицируют азиато-американцев и женщин с темной кожей по сравнению с остальным населением. Хотя оценки правительства в отношении распознавания лиц продолжают показывать улучшения в идентификации людей различных демографических групп, ложные аресты продолжают происходить, часто как результат сочетания неисправной технологии и плохой работы полицейских, и почти исключительно включают черных мужчин. Также в прошлом месяце стало известно о Порше Вудруфф, которую ложно арестовали, несмотря на то, что она была явно беременна, в отличие от подозреваемого, запечатленного на видеозаписи камеры наблюдения.
Ложное арестовывание также может быть результатом ошибки свидетеля или сотрудника правоохранительных органов. Исследования показывают, что люди обычно плохо узнают других людей, которых они не знают, и особенно плохо узнают людей другой расы. Качество фотографии и временной разрыв между исходной фотографией и фотографией в базе данных также могут влиять на результаты.
FBI на протяжении многих лет оказывается под давлением правительства и законодателей, чтобы лучше защищать права жителей США от влияния распознавания лиц. GAO начал требовать от FBI оценить точность и последствия для конфиденциальности своего внутреннего программного обеспечения для распознавания лиц в 2016 году. Он продолжал повторять эти требования в 2019 году, когда двухпартийные законодатели также давили на FBI, чтобы добавить защитные меры.
В 2022 году конгрессуальный комитет поручил Министерству юстиции создать политику этичного использования распознавания лиц, но ведомство так и не внедрило такую политику. В том же году президент Джо Байден подписал указ, поручивший ведомству заказать исследование Национальной академии наук об влиянии распознавания лиц на конфиденциальность, гражданские права и гражданские свободы. Он также требовал от Министерства юстиции принять меры по разработке лучших практик использования распознавания лиц правоохранительными агентствами через межведомственный процесс.
Снеха Реванур, основатель Encode Justice, молодежной некоммерческой организации, которая требует мораторий на использование распознавания лиц правоохранительными органами, говорит, что технология может быть пренебрежена в свете последних волнений и страхов, связанных с генеративным искусственным интеллектом, таким как ChatGPT. “Очень важно, чтобы мы не оставили незавершенные дела вокруг таких вопросов, как распознавание лиц”, – говорит она. Реванур считает, что федеральный мораторий на использование этой технологии даст время для изучения того, какие виды обучения и политики использования могут снизить возможности надзорного инструмента, который может нарушать гражданские права.
