Райт Эйд запрещено использование технологии распознавания лиц кошмар покупателя
Это длится 5 лет.
Аптеки Rite Aid больше не могут использовать технологию искусственного интеллекта для распознавания лиц. Позвольте мне объяснить почему.
📷 Изображение: логотип Rite Aid
Сеть аптек Rite Aid, которая недавно подала заявление на защиту по главе 11 Кодекса США о несостоятельности, снова оказалась в неприятной ситуации. На этот раз проблемы возникли у нее с Федеральной торговой комиссией (FTC). В объявлении, сделанном во вторник, ФТК сообщила, что аптеки Rite Aid теперь запрещено использовать технологию распознавания лиц для наблюдения в течение следующих пяти лет.
По жалобе, поданной ФТК, Rite Aid в период с 2012 по 2020 год использовало технологию распознавания лиц на основе искусственного интеллекта в попытке определить клиентов, возможно совершающих магазинные кражи или вовлеченных в другое проблемное поведение. Однако ФТК утверждает, что Rite Aid “не предпринимала разумные меры для предотвращения вреда потребителям”.
Ложные заявления и непреднамеренные последствия Rite Aid
📷 Изображение: магазин Rite Aid
- Генеративное искусственное интеллект шумиха, реальность и путь вперед
- Верховный суд Великобритании решает, что ИИ не может быть назван из...
- AI Song Creation by Microsoft Copilot Text and Technology Unite in ...
Представьте себе, как вы интуитивно делаете покупки в Rite Aid, только чтобы вас наблюдали, беспокоили и обвиняли в магазинных кражах сотрудники исключительно потому, что технология распознавания лиц магазина ложно обозначила вас как непослушного клиента. Звучит как сцена из дистопического романа, не так ли? К сожалению, этот кошмар стал реальностью для многих посетителей Rite Aid, особенно для женщин и людей цвета кожи, причем наибольший удар пришелся на черные и азиатские сообщества.
ФТК обнаружила, что Rite Aid никогда не информировала своих посетителей о использовании технологии распознавания лиц или сборе их биометрической информации. Фактически, сотрудников явно “не рекомендуется” делиться какой-либо информацией относительно политики мониторинга компании. В результате, после обозначения клиента системой распознавания лиц, сотрудники начинали следить за ними по магазину, обыскивали их, выгоняли, вызывали полицию, а также публично обвиняли их в магазинных кражах или других проступках, иногда при этом смотрели их друзья и семья.
На протяжении многих лет собралось десятки тысяч изображений клиентов Rite Aid из различных источников, таких как видеокамеры безопасности, камеры телефонов сотрудников и освещение в прессе. Удивительно, но ФТК рассказала о тысячах ложно положительных совпадений, при этом клиенты ошибочно помечались на основе совпадений, обнаруженных в совершенно разных местах, порой в десятках разных магазинах по всем Соединенным Штатам. Казалось, будто система обладала собственным разумом и была настроена превратить невинных покупателей в преступников.
ФТК принимает меры для защиты потребителей
В ответ на безрассудное использование аптекой Rite Aid технологии распознавания лиц, ФТК приняла несколько мер для обеспечения безопасности потребителей. Прежде всего, аптеке строго запрещено использовать технологию распознавания лиц в любой форме в течение следующих пяти лет. Кроме того, Rite Aid должна удалить все видеозаписи, фотографии и биометрические данные, которые она хранит.
Однако, если Rite Aid решит использовать технологию распознавания лиц для целей безопасности после снятия запрета, они должны сообщить клиентам, внедрить комплексную программу безопасности данных и пройти независимые оценки и проверки. Эти меры направлены на восстановление доверия и предотвращение подобных инцидентов в будущем.
Будущее технологии распознавания лиц
📷 Изображение: Технология распознавания лиц
Дело Rite Aid вызывает несколько важных вопросов о этике и границах использования технологии распознавания лиц. Как нам найти баланс между защитой безопасности потребителей и уважением к правам на приватность? Этот инцидент подчеркивает насущную необходимость более четкого регулирования и руководства в отношении использования такой технологии.
Он также служит напоминанием о том, что системы искусственного интеллекта далеко не беспрошибительны. В качестве людей мы должны помнить о лимитах и присущих искусственному интеллекту предубеждениях. Последствия ложных положительных совпадений могут быть серьезными, затрагивая невинных людей и поддерживая дискриминацию в сообществах.
По мере продвижения вперед, крайне важно, чтобы компании и организации придавали приоритет прозрачности, ответственности и ответственному использованию технологии распознавания лиц. Только с правильными мерами безопасности и регулирования мы можем использовать потенциальные пользы этой технологии, не жертвуя доверием и приватностью потребителей.
Дополнительный контент вопросы и ответы:
Теперь давайте рассмотрим некоторые потенциальные вопросы, которые могут возникнуть у читателей:
В: Является ли Rite Aid единственной компанией, использующей технологию распознавания лиц для наблюдения?
О: Rite Aid не единственная компания, применяющая технологию распознавания лиц для наблюдения. Многие другие предприятия, такие как розничные магазины, аэропорты и даже производители смартфонов, внедрили эту технологию для улучшения мер безопасности. Однако инциденты, подобные тому, что произошел с Rite Aid, подчеркивают важность ответственного и этичного использования систем распознавания лиц и необходимость более строгого регулирования.
В: Каковы потенциальные опасности технологии распознавания лиц?
О: Технология распознавания лиц может представлять различные опасности, включая вопросы конфиденциальности, скрытые предубеждения и ложные положительные определения. Биометрическая информация людей, такая как их лица, может быть собрана и сохранена без их согласия или осведомления, что вызывает серьезные вопросы о конфиденциальности. Кроме того, алгоритмы распознавания лиц могут проявлять предубеждения, что приводит к неправильным определениям и потенциальной дискриминации определенных групп людей. Инцидент с Rite Aid подчеркивает важность решения этих проблем и обеспечения соответствующих мер защиты.
В: Существуют ли какие-либо правила, регулирующие использование технологии распознавания лиц?
О: Несмотря на то, что некоторые регионы и страны начали внедрять правила в отношении технологии распознавания лиц, ситуация все еще развивается. В Соединенных Штатах, например, пока нет федеральных законов, регулирующих специально использование систем распознавания лиц. Однако несколько штатов, включая Калифорнию, Иллинойс и Вашингтон, приняли законодательные акты для защиты конфиденциальности потребителей и регулирования использования биометрических данных. Международные органы, такие как Европейский союз, также работают над разработкой руководящих принципов и норм в этой сфере.
Ссылки:
-
TomTom и Microsoft запускают искусственный интеллект в помощь водителю
-
MoveIt, Capita, CitrixBLEED и другие: крупнейшие утечки данных 2023 года
Теперь не стесняйтесь! Поделитесь своими мыслями о дебакле с распознаванием лиц Rite Aid и более широком вопросе о технологии и конфиденциальности в социальных сетях. Давайте начнем разговор и работать над будущим, в котором технология уважает наши права и обеспечивает нашу безопасность.
🙋 Изображение: Люди обсуждают технологию
