Родительское предупреждение Этот Чатбот может разговаривать с вашим ребенком о сексе и алкоголе
Родительское предупреждение данный Чатбот способен обсуждать секс и алкоголь с вашим ребенком!
Родительство в 2023 году требует не только обсуждения опасностей интернета и социальных медиа с детьми, но и искусственного интеллекта, который быстро распространяется почти в каждом приложении или онлайн-сервисе. Некоммерческая организация Common Sense Media, которая оценивает фильмы и другие медиа для родителей, пытается помочь семьям адаптироваться к эпохе искусственного интеллекта. Сегодня она запустила свой первый анализ и оценки AI-инструментов, включая ChatGPT от OpenAI и My AI чатбот от Snapchat.
Согласно отчету Common Sense, My AI получил одну из самых низких оценок среди 10 систем, рассмотренных в отчете, который предупреждает, что чатбот готов обсуждать с подростками темы, связанные с сексом и алкоголем, и что он неправильно представляет целевую рекламу Snap. Common Sense приходит к выводу, что в My AI есть “больше недостатков, чем преимуществ”.
Ранее The Washington Post сообщал о похожих результатах, полученных Common Sense при тестировании MyAI от Snapchat ранее в этом году. Заявление, представленное Мэгги Чернефф от имени владельца Snapchat Snap, говорит о том, что чатбот является дополнительным инструментом, созданным с учетом безопасности и конфиденциальности, и что родители могут видеть, использует ли подросток этот инструмент в Family Center приложения.
Отзывы Common Sense об AI-сервисах проводились экспертами, включая Майкла Престона, директора лаборатории по инновациям и исследованиям в Sesame Workshop, производителе Sesame Street; Маргарет Митчелл, исследователя в стартапе Hugging Face, ранее совместно руководившей исследованиями по этике AI в Google; а также Трейси Пиццо Фрей, ранее работавшей над ответственностью AI в Google Cloud.
Рецензенты присвоили каждому AI-инструменту общую оценку от одной до пяти звезд и отдельную оценку конфиденциальности, и сообщили, как ChatGPT и другие соответствуют набору принципов AI для услуг, предназначенных для детей и семей, представленных Common Sense Media в сентябре. Принципы включают стимулирование обучения и обеспечение безопасности детей и подростков.
- 10 полезных советов и хитростей в Gmail, которые все должны знать |...
- Лучшие предложения на Черную пятницу по 3D-принтерам от всего $159 ...
- Купите сейчас кредит eSIM на $50 всего за $19
Наивысшие оценки были получены сервисами AI для образования, такими как Ello, который использует голосовое распознавание для выступления в качестве репетитора чтения, и помощник Khanmigo от Khan Academy для студентов, который позволяет родителям контролировать взаимодействие ребенка и отправляет уведомление, если алгоритмы модерации контента обнаруживают нарушение правил сообщества. В отчете отмечается, что создатель ChatGPT, компания OpenAI, сделала чатбот менее склонным к генерации текста, который может быть вреден для детей, чем при его первом выпуске в прошлом году, и рекомендует его использование преподавателями и старшими учащимися.
Вместе с My AI от Snapchat, также низкие оценки получили генераторы изображений Dall-E 2 от OpenAI и Stable Diffusion от стартапа Stability AI. Рецензенты Common Sense предупреждают, что генерируемые изображения могут укреплять стереотипы, распространять deepfakes и часто изображать женщин и девочек в гиперсексуализированной форме.
По данным Common Sense, когда Dall-E 2 попросят сгенерировать реалистичные изображения богатых людей цвета кожи, чатбот создает мультфильмы, изображения низкого качества или изображения, связанные с бедностью. В отчете говорится, что Stable Diffusion создает “непостижимые” риски для детей и приходит к выводу, что генераторы изображений имеют силу “разрушить доверие до такой степени, что демократия или гражданские институты не могут функционировать”.
«Я считаю, что мы все страдаем, когда демократия подрывается, но молодые люди являются самыми большими потерпевшими, потому что они унаследуют политическую и демократическую систему, которую мы имеем», – говорит генеральный директор Common Sense Джим Стейер. Неправительственная организация планирует провести тысячи обзоров искусственного интеллекта в ближайшие месяцы и годы.
Common Sense Media выпустила свои оценки и обзоры вскоре после того, как генеральные прокуроры штатов подали иск против Meta с обвинениями о вреде для детей, и в то время, когда родители и учителя только начинают размышлять о роли генеративного искусственного интеллекта в образовании. Выпущенное прошлый месяце распоряжение президента Джо Байдена о искусственном интеллекте требует от министра образования разработать руководство по использованию этой технологии в образовании в ближайший год.
Сьюзан Монгрейн-Нок, мать двоих детей из Сан-Диего, знает, что ее 15-летняя дочь Лили пользуется Snapchat и беспокоится о том, что она видит вредный контент. Она старается построить доверие, обсуждая с дочерью то, что она видит на Snapchat и TikTok, но говорит, что мало знает о том, как работает искусственный интеллект, и приветствует новые ресурсы.
Создание Кест, руководитель исследовательской лаборатории искусственного интеллекта в Университете Калифорнии в Беркли, считает, что общение с ребенком о том, как работает искусственный интеллект, такой как ChatGPT, и о его ограничениях, должно помочь. Она говорит, что результаты опроса, проведенного Common Sense и опубликованного в мае, который показал, что большинство родителей не знают, что их дети используют ChatGPT, вызывают опасения. Это свидетельствует о том, что искусственный интеллект может формировать мировоззрение детей без ведома их родителей.
Кест больше всего беспокоится о долгосрочных последствиях создания изображений с помощью искусственного интеллекта, такого как Dall-E 2. «Если ребенок создает изображения врачей и преступников, и искусственный интеллект преувеличивает предубеждения и изображает стереотипы, это повлияет на детей гораздо сильнее, чем на взрослых», – говорит она.
Джош Голин, исполнительный директор организации Fair Play for Kids, отстаивающей законодательные меры по защите молодежи, такие как Закон о безопасности онлайн для детей, говорит, что новые рейтинги Common Sense – это приветственный новый ресурс для родителей. Он говорит, что в конечном счете требуются новые регулирования для управления опасностями искусственного интеллекта. «Если из неудач регулирования социальных медиа мы что-то вынесли, то это то, что создатели этих продуктов ставят коммерциализацию выше благополучия общества и детей», – говорит Голин.
