Американские законодатели требуют, чтобы Министерство юстиции (DOJ) прекратило безнадежное финансирование предиктивных полицейских инструментов.
Члены Конгресса требуют ужесточения стандартов для федеральных грантов в отношении финансирования Министерством юстиции инструментов AI, связанных с предвзятыми практиками в правоохранительной деятельности.
🚨 Остерегайтесь: Инструменты “Полиции” на основе ИИ находятся под инвестицей 🚓🕵️♀️
Министерство юстиции Соединенных Штатов сталкивается с растущим давлением со стороны группы законодателей, которые настаивают на проливе света на использование “полицейских” инструментов на основе искусственного интеллекта, которые могут поддерживать предрассудки и неточности в правоохранительных органах. В письме, полученном ENBLE, семь членов Конгресса выразили свои опасения относительно программы грантов Министерства юстиции, заявив, что последние открытия только усугубили их беспокойства.
🔍 Где ответственность?
Согласно письму, Министерство юстиции не провело расследование того, использовали ли получатели грантов федеральные средства для приобретения дискриминационного полицейского программного обеспечения. В результате законодатели призывают Министерство юстиции приостановить все гранты для систем предиктивного полицейского наблюдения, пока они не смогут убедиться, что эти инструменты не окажут дискриминационного влияния. Иными словами, они требуют серьезной проверки реальности.
🤔 Итак, что же такое предиктивное наблюдение?
Предиктивное наблюдение опирается на исторические данные о преступлениях для прогнозирования потенциальных преступных действий. Однако исследования показывают, что эти системы часто воспроизводят давно сложившиеся предрассудки, дискриминируя преимущественно черные и латиноамериканские районы. Вместо использования точных прогнозов эти системы поддерживают опасные циклы обратной связи, приводя к предвзятым арестам и чрезмерной полицейской деятельности.
- OpenAI стал объектом расследования Европейского союза по вопросу ко...
- «🤖 OpenAI, Google и другие компании по искусственному интеллекту об...
- 🔥 Поиски лояльности в мире брендов и искусственного интеллекта
📊 Предиктивное наблюдение? Скорее… непредсказуемое!
Фактически, шокирующий заголовок из The Markup говорит сам за себя: “Программное обеспечение предиктивного наблюдения плохо прогнозирует преступления”. Исследователи обнаружили, что из 23 631 прогноза полиции о преступлениях эти системы были точными всего лишь в 1% случаев. Кажется, что полагаться на предвзятые и искаженные исторические данные не приводит к точным прогнозам преступлений.
💡 Зов к действию и прозрачности
Под руководством сенатора Рона Уайдена из Орегона, эта группа законодателей подчеркивает, что Министерство юстиции обязано периодически рассматривать соответствие получателей грантов Закону о гражданских правах главы VI. Финансирование программ, дискриминирующих на основе расы, этнической принадлежности или национального происхождения, абсолютно запрещено. В связи с предстоящим президентским отчетом о полиции и искусственном интеллекте законодатели настаивают на тщательном расследовании использования инструментов предиктивного наблюдения. Они хотят получить подробную оценку точности, интерпретируемости и действительности этих моделей, а также оценку любых рисков, связанных с отсутствием прозрачности со стороны компаний, разрабатывающих их.
⚖️ Пусть говорит доказательная база
Если Министерство юстиции хочет продолжать финансирование этих технологий, законодатели требуют установления стандартов доказательства, чтобы определить, какие предиктивные модели являются дискриминационными. Любые модели, не соответствующие этим стандартам, должны быть отклонены для финансирования. Пришло время подвергнуть эти инструменты ответственности и обеспечить, чтобы они не способствовали увеличению неравенства и несправедливости.
🔮 Будущее предиктивного наблюдения
Этот текущий диалог и расследование предиктивных инструментов наблюдения подчеркивают необходимость ответственной и этичной реализации искусственного интеллекта в правоохранительной деятельности. По мере того, как мы перемещаемся по стыку технологии и полиции, становится очевидным, что прозрачность, справедливость и точность играют решающую роль. Пришло время переосмыслить практики правоохранительных органов с критическим взглядом на потенциальные проблемы систем на основе искусственного интеллекта.
🔗 Вот несколько дополнительных ссылок по этой теме: 1. Закон о гражданских правах главы VI 2. Предвзятость в системах искусственного интеллекта 3. Влияние искусственного интеллекта на правоохранительную деятельность 4. Предиктивное наблюдение: проблемы и критика 5. Этика искусственного интеллекта в правоохранительной деятельности
📣 Давайте пообщаемся!
Каково ваше мнение о предиктивном наблюдении? Вы считаете, что эти технологии могут быть использованы ответственно и этично? Присоединяйтесь к обсуждению и поделитесь своей точкой зрения. И не забудьте распространить информацию в социальных сетях!
#ИИ #Полиция #ПредиктивноеНаблюдение #Технологии #ПравоохранительныеОрганы
