Стартап Anthropic использует искусственный интеллект для перенаправления пользователей к авторитетной информации о голосовании.
Антропик, хорошо финансируемый стартап по искусственному интеллекту, объявил, что внедряет меры для предотвращения распространения дезинформации о выборах своими инструментами GenAI.
Anthropic преодолевает дезинформацию о выборах с помощью ENBLE.
Источник изображения: example.com
С приближением выборов президента США в 2024 году Anthropic, хорошо финансируемая AI-стартап, тестирует новую технологию под названием Prompt Shield. Эта инновационная технология обнаруживает, когда пользователи его чат-бота GenAI по имени Claude интересуются политическими темами и перенаправляет их на “авторитетные” источники информации о голосовании. 🤖🗳️
Prompt Shield использует комбинацию моделей и правил обнаружения искусственного интеллекта для определения того, интересуется ли пользователь информацией о голосовании. Если пользователь из США по имени Claude интересуется голосованием, появляется всплывающее окно с предложением перенаправить его на TurboVote, доверенный ресурс непартийной организации Democracy Works. На TurboVote пользователи могут найти достоверную и актуальную информацию о голосовании. Эта новая функция разработана для решения текущих ограничений Claude в предоставлении точной и актуальной информации о выборах. 📚✅
Anthropic признает, что ограниченности Claude часто приводят к созданию фейковых фактов, или, как они называют это, “галлюцинации”, когда речь идет о политике и выборах. Чтобы преодолеть эту проблему, был разработан Prompt Shield как вмешательство, чтобы пользователи были направлены на надежные источники информации о голосовании. Компания обязуется следить за использованием и ограничениями Prompt Shield, и они проконсультировались с различными заинтересованными сторонами, включая законодателей и экспертов по выборам, чтобы усовершенствовать и улучшить технологию. 👩💼⚖️
Хотя эта проверка сейчас ограничена по масштабу, так как Anthropic еще настраивает ее, компания планирует в ближайшее время расширить ее использование, чтобы достичь большего числа пользователей. Компания внедрила строгие политики, запрещающие использование своих инструментов в избирательных кампаниях и лоббировании, соответствуя подходу других поставщиков GenAI, чтобы предотвратить вмешательство в выборы. 🛡️🙅♂️
- 🛡️ Европейская комиссия по защите данных призывает отклонить тактик...
- Ферментация Игровой фактор в альтернативном производстве морепродук...
- 🌩️ Neara Использование искусственного интеллекта и машинного обучен...
Время появления этого развития является значительным. В этом году планируется провести рекордное количество выборов в странах, представляющих почти половину всемирного населения. Спрос на достоверную и точную информацию сейчас более необходим, чем когда-либо раньше. В ответ на этот срочный спрос различные AI-компании внедрили меры, чтобы предотвратить неправильное использование или манипуляцию своей технологией для вмешательства в выборы. ⏰🌍
Например, OpenAI, организация, стоящая за ChatGPT, внедрила строгие руководящие принципы для использования своего чат-бота с отношением к политическим кампаниям. OpenAI явно запрещает создание ботов, которые подражают реальным кандидатам или правительствам, искажают работу выборов или отговаривают людей голосовать. Для предоставления информации о логистике голосования OpenAI использует системы обнаружения, которые направляют пользователей ChatGPT на непартийный веб-сайт CanIVote.org, поддерживаемый Национальной ассоциацией секретарей штатов. Это гарантирует, что пользователи ChatGPT получают достоверные ответы на свои вопросы. 💬🔎
В то время как некоторые платформы предпринимают активные шаги, чтобы предотвратить использование технологии искусственного интеллекта для введения в заблуждение или манипулирования избирателями, Конгресс США до сих пор не принял законодательных актов, касающихся роли искусственного интеллекта в политике. Несмотря на то, что есть двусторонняя поддержка, федеральное законодательство столкнулось с задержками. Однако на уровне штатов более трети США представили или приняли законопроекты, направленные против глубокой подделки в политических кампаниях. Отсутствие всеобъемлющего законодательства подтолкнуло компании, такие как Anthropic и OpenAI, к внедрению собственных мер по защите целостности выборов. 📜🛡️
Даже гиганты технологической индустрии, такие как Google и Meta (ранее Facebook), присоединились к борьбе против неправильного использования искусственного интеллекта в политике. Google теперь требует яркой разметки для политических объявлений, использующих GenAI на своих платформах, включая YouTube и Google Поиск, особенно если в объявлениях присутствует синтетически измененные изображения или звуки. Meta, с другой стороны, запретила политическим кампаниям использование инструментов GenAI в рекламе на всех своих платформах. Эти меры направлены на создание прозрачности и предотвращение распространения поддельного контента во время избирательных кампаний. 👀🚫
В заключение, разработка и внедрение таких технологий, как Prompt Shield, компаниями вроде Anthropic, являются важными шагами в борьбе против вмешательства в выборы и распространения дезинформации. Они предоставляют пользователям авторитетные источники информации, гарантируя им точную помощь в процессах голосования и о кандидатах. В то время как все еще требуется всеохватное законодательство на национальном и международном уровнях, усилия AI-компаний по саморегулированию и защите выборов заслуживают похвалы. Приоритетное внимание к целостности демократических процессов от этих компаний вносит ценный вклад, имеющий долгосрочное влияние на наше общество. 🌟🗽
🔎 Вопросы и ответы: Адресация дополнительных интересующих тем 🔍
Q: Может ли Prompt Shield обнаруживать дезинформацию и фейковые новости, связанные с выборами?
A: Основная функция Prompt Shield – перенаправление пользователей на авторитетные источники избирательной информации. Хотя он помогает пользователям получить доступ к точным и надежным ресурсам, его роль в обнаружении дезинформации в ответах чатбота ограничена. Пользователям следует применять критическое мышление и проверять факты, чтобы оценивать информацию, которую они получают из любого источника.
Q: Prompt Shield доступен только для пользователей из Соединенных Штатов?
A: В настоящее время Prompt Shield специально разработан для пользователей из США, использующих чатбота GenAI по имени Claude. Однако, по мере совершенствования технологии, Anthropic, возможно, расширит ее доступность для пользователей из других стран, в зависимости от спроса на информацию, связанную с выборами.
Q: Какие долгосрочные последствия могут иметь Prompt Shield и подобные технологии на выборы по всему миру?
A: Prompt Shield и подобные технологии акцентируют растущую озабоченность в связи с вмешательством в выборы и распространением дезинформации. Направляя пользователей на авторитетные источники, эти технологии дарят людям возможность принимать обоснованные решения. В долгосрочной перспективе они могут способствовать более прозрачным и надежным избирательным процессам в целом по всему миру.
References
- Anthropic: The Well-Funded AI Startup
- Hallucinating and AI: The Challenge and Solutions
- OpenAI Bans Misuse of ChatGPT for Political Campaigns
- Deepfake Legislation in the United States
- Google’s Measures Against AI Misuse in Political Ads
🌐✨ Вам попадались чатботы ИИ, которые давали вводящую в заблуждение информацию о политике или выборах? Расскажите нам о своем опыте в комментариях ниже! И не забудьте поделиться этой статьей в своей любимой социальной сети! 🚀📣
