Zoom запутался в проблемах конфиденциальности искусственного интеллекта
Zoom искусственного интеллекта и конфиденциальности проблемы
Кто-нибудь читает условия использования программного обеспечения? Юристы делают это, но даже их глаза могут затуманиться. Поэтому до недавнего времени никто не заметил, что Zoom изменил свои условия использования (ToS) в марте 2023 года. В своих новых условиях Zoom заявил о праве использовать ваши видео-, аудио- и чат-данные для своих программ искусственного интеллекта (AI).
Приватность? Безопасность? Что это такое?
Также: Мы не готовы к влиянию генеративного искусственного интеллекта на выборы
Более конкретно, новые условия предоставили Zoom права на любые «данные, контент, файлы, документы или другие материалы (в совокупности, «Ввод клиента») при доступе к услугам или использовании программного обеспечения, и Zoom может предоставлять, создавать или делать доступными для вас, по своему усмотрению или в рамках услуг, определенные производные, транскрипты, аналитику, результаты, визуальные отображения или наборы данных, полученные из Ввода клиента (вместе с Вводом клиента, «Контент клиента»).
Что означает эти права на «Контент клиента»? Во-первых, «Zoom может распространять, публиковать, импортировать, получать доступ, использовать, хранить, передавать, просматривать, разглашать, сохранять, извлекать, изменять, воспроизводить, делиться, использовать, отображать, копировать, распространять, переводить, транскрибировать, создавать производные работы и обрабатывать Контент клиента».
- Пока Apple не обязана менять правила App Store, решает Верховный су...
- Наушники Beats Studio Pro расширяются на 20+ дополнительных стран
- Водонепроницаемы ли наушники Apple AirPods? Всё, что вам нужно знат...
Но это не все. Вы также предоставляете Zoom «вечную, мировую, неисключительную, бесплатную, сублицензируемую и передаваемую лицензию и все другие права, необходимые или необходимые для распространения, публикации, импорта, доступа, использования, хранения, передачи, просмотра, разглашения, сохранения, извлечения, изменения, воспроизведения, деления, использования, отображения, копирования, распространения, перевода, транскрибирования, создания производных работ и обработки Контента клиента и выполнения всех действий в отношении Контента клиента: (i) как это может быть необходимо для Zoom для предоставления вам услуг, включая поддержку услуг; (ii) в целях разработки продукта и услуги, маркетинга, аналитики, контроля качества, машинного обучения, искусственного интеллекта, обучения, тестирования, улучшения услуг, программного обеспечения или других продуктов, услуг и программного обеспечения Zoom».
Также: Как заблокировать новый веб-сканер OpenAI для обработки ваших данных
Реакция на все это, когда добрые люди на форуме Ycombinator, акселераторе технологических стартапов, узнали об этом, была, можно сказать, недовольной. Или, как выразился один комментатор, «я, например, не приветствую наших дистопических властителей».
После всего этого шума на выходных Zoom изменил свои условия использования. Теперь Zoom клянется: «Несмотря на вышеизложенное, Zoom не будет использовать аудио-, видео- или чат-контент клиента для обучения наших моделей искусственного интеллекта без вашего согласия».
Ага.
Главный продуктовый директор Zoom Смита Хашиб объяснила в своем блоге, что компания на самом деле не будет делать то, что описано в своих условиях использования. Правда, Zoom будет использовать некоторые из ваших данных для машинного обучения. Но согласно блогу, «для искусственного интеллекта мы не используем аудио-, видео- или чат-контент для обучения наших моделей без согласия клиента».
Но имеет ли это прикрепленное предложение и блог какое-либо значение? Шон Хогл, бизнес- и интеллектуальный собственностию адвокат, считает, что нет. На Ycombinator он написал: «Юристы Zoom пытаются провести горячую перекличку с этими измененными условиями. Новое предложение о требовании согласия пользователя для обучения искусственным интеллектам относится только к «Контенту клиента», а не к «Данным, созданным услугами». Zoom может использовать эти данные, которые получены из ваших конференций и материалов, без вашего согласия.
Также: ChatGPT Plus может обрабатывать корпоративные данные для получения мощных инсайтов. Вот как
Хогл продолжил: «Вот в чем загвоздка. “Данные, созданные услугами” = “любые данные телеметрии, данные использования продуктов, диагностические данные и подобный контент или данные, которые Zoom собирает или генерирует в связи с вашим или вашими конечными пользователями использованием услуг”. Используя эти данные, Хогл пришел к выводу: “Это ‘уточнение’ не имеет никакого смысла для уменьшения серьезных проблем с конфиденциальностью данных, вызванных использованием Zoom захваченного видео контента пользователей”.
В своем блоге Хашим продолжил: “Мы не будем использовать контент клиентов, включая учебные записи или защищенную информацию о здоровье, для обучения наших моделей искусственного интеллекта без вашего согласия.” Конечно, все это уже защищено Законом о правах семейного образования и конфиденциальности (FERPA) и Законом о портативности и ответственности за страхование здоровья (HIPAA), поэтому это не так уж и страшно. Ведь за это был бы наказан Департамент юстиции.
Конечно, чтобы использовать некоторые функции искусственного интеллекта Zoom, такие как Zoom IQ, предлагающий автоматические резюме встреч, вы должны согласиться разрешить Zoom использовать ваши данные. Вы также не имеете никакого контроля над конфиденциальностью встречи, если вы просто участвуете в ней, и человек, который ее вызвал, согласился, что Zoom может следить за вами, чтобы делать свои собственные заметки.
Немногие люди довольны этим. Как заметил аналитик Constellation Research Дион Хинчклифф: “Zoom, несомненно, задела большую нервную систему рынка, когда в своих недавно обновленных условиях обслуживания она предоставила себе практически неограниченную лицензию на весь пользовательский контент (видео, аудио, текст), проходящий через ее платформу… Большая опасность заключается в том, что интеллектуальная собственность клиентов и их личная информация будут храниться в таких моделях, где они могут быть злоупотреблены.”
Также: Генеративный искусственный интеллект и четвертый вопрос “почему”: построение доверия со своим клиентом
Ларри Дигнан, бывший главный редактор ENBLE и нынешний главный редактор Constellation Research, добавил: “Тем не менее, условия обслуживания все равно предоставляют Zoom лицензию… Поставщики должны идти по пути высокого доверия к данным клиентов. Те, кто не устанавливает и не поддерживает очень высокий уровень доверия с клиентами в отношении их данных, не смогут наслаждаться плодами грядущей революции искусственного интеллекта.”
Этому согласен Аллен Дреннан, сооснователь и руководитель компании Cordoniq, занимающейся виртуальными встречами. В письме Дреннан написал: “Когда частные организации загружают внутреннюю конфиденциальную информацию и интеллектуальную собственность во время встречи, они не задумываются о последствиях предоставления своих данных стороннему провайдеру, управляемому в облаке, которым они не управляют. Проблема не ограничивается только общими экранами или конфиденциальными документами с несколькими страницами. Она также распространяется на записи встреч и аудио и видео, используемые во время встречи. Вам действительно должно быть обеспечено контроль как над безопасностью, так и над конфиденциальностью.”
Хинчклифф добавил в Twitter, или X, что Zoom все еще получает “вечную, всемирную” лицензию на весь пользовательский контент, чтобы вы могли “просматривать, разглашать, сохранять, извлекать, изменять, воспроизводить, делиться, использовать, отображать, копировать, распространять, переводить, транскрибировать, создавать производные произведения”. Это неразумно и является чрезмерной претензией на контент клиентов.”
Кто может с этим поспорить? Кроме Zoom, конечно.
Также: Генеративный искусственный интеллект вскоре станет популярным, говорят 9 из 10 IT-лидеров
В 2021 году Zoom согласилась заплатить 85 миллионов долларов по иску коллективного иска за передачу данных пользователей неавторизованным сторонним лицам, таким как Facebook, Google и LinkedIn, а также за искажение силы своих протоколов конечно-конечного шифрования.
Также в том же году Zoom заключил сделку с Федеральной торговой комиссией (FTC), которая требовала от него “внедрить комплексную программу безопасности, проверять любые обновления программного обеспечения на наличие уязвимостей в области безопасности перед выпуском и убедиться, что обновления не будут препятствовать функциям безопасности сторонних лиц”. FTC также требовала, чтобы Zoom не искажала свою практику сбора данных.
По словам Джона Дэвиссона, директора литигации в группе защиты прав потребителей Electronic Privacy Information Center (EPIC), в комментариях для The Washington Post, это “кажется серьезным нарушением, и это то, что FTC должна тщательно рассмотреть”. Конгрессмен Джан Шаковски (Д-Иллинойс) добавил: “Zoom имеет плохую репутацию в защите данных потребителей и выполнении своих обязательств – как показывают их соглашение о согласии и соглашение о расселении 2021 года.”
Все сводится к тому, насколько вы комфортно делитесь личной информацией с Zoom. Несмотря на то, что Zoom оказался полезным во время пандемии, ответ для многих компаний и организаций, столкнувшихся с этой новой угрозой конфиденциальности ИИ, кажется отрицательным. Как заявил основатель Bellingcat Productions Элиот Хиггинс в своем твите: “Мы проводим наши тренировочные семинары на Zoom, поэтому Zoom фактически планирует обучать свой ИИ на всем нашем контенте семинаров без компенсации, так что пока-пока, Zoom.”
Я уверен, что они не будут единственными, кто попрощается с Zoom.
