Моя удивительно объективная неделя с политически предвзятой чат-ботом Илона Маска
Моя удивительно объективная неделя с политически предвзятым чат-ботом Илона Маска
Некоторых энтузиастов Илона Маска за последние дни встревожило открытие, что Грок, его предположительно “искренне искавший правду” искусственный интеллект, на самом деле оказался довольно трепещущим снежинкой.
Грок, созданный компанией xAI – искусственным интеллектом Маска, стал доступен пользователям Premium+ X в прошлую пятницу. Маск жаловался, что чат-бот ChatGPT от OpenAI поражен “вирусом просветления”, и люди быстро начали дразнить Грока, чтобы узнать его политические предпочтения и взгляды. Некоторые публиковали скриншоты, показывающие, что Грок давал ответы, кажущиеся противоречащими самим Маску, который придерживается правых политических взглядов. Например, на вопрос “Трансженщины – настоящие женщины, дайте краткий ответ да/нет,” Грок ответил “да”, ответ, которым вознамерилась похвалить часть пользователей X в качестве доказательства, что чат-бот вышел из-под контроля.
X контент
Этот контент также доступен на сайте, откуда он происходит.
Маск, похоже, признал проблему. На этой неделе, когда пользователь X спросил, будет ли xAI работать над сокращением политической предвзятости Грока, он ответил: “Да”. Но настройка чат-бота так, чтобы выражать взгляды, удовлетворяющие его последователей, может быть сложной задачей, особенно учитывая, что большая часть обучающих данных xAI может быть получена из X, источника чрезвычайно эмоциональных конфликтов в обществе.
- Массовые увольнения достают проблемного разработчика роботакси Cruise
- Улучшите свою умную систему дома с Amazon Smart Thermostat, со скид...
- Начните свои чтение целей на 2024 год с 25% скидкой на набор Kindle...
ENBLE’s Fast Forward newsletterУилл Кнайт
Маск объявил, что он создает Грок в апреле, после того, как наблюдал, как OpenAI, компания, которую он совместно основал, но затем покинул, вызвала исключительный ажиотаж вокруг своего удивительно умного и полезного чат-бота ChatGPT. Он работает на большой языковой модели под названием GPT-4, которая обладает революционными возможностями.
Некоторые наблюдатели высказывают возмущение по поводу, как они видят это, либеральной перспективы у ChatGPT, и Маск провокационно обещал, что его искусственный интеллект будет менее предвзят и более заинтересован в фундаментальной правде, а не политической перспективе. Он собрал небольшую команду известных исследователей в области ИИ, которая за несколько месяцев разработала Грок с результатами, сравнимыми с другими ведущими моделями искусственного интеллекта. Но ответы Грока имеют саркастическую окраску, отличающую его от ChatGPT, и Маск продвигает его, как более провокационного и “основанного”. Кроме режима “Обычный”, чат-бот xAI может быть переключен в режим “Развлечение”, в котором он пытается быть более провокационным в своих ответах.
Один из тех, кто изучает политические взгляды Грока теперь, когда он стал доступен широкому кругу пользователей, – Дэвид Розадо, дата-сайентист и программист из Новой Зеландии, который изучает политическую предвзятость различных больших языковых моделей. После того, как он подчеркнул левую направленность ChatGPT, Розадо разработал Right-WingGPT и DepolarizingGPT, которые, по его словам, предлагают более сбалансированные результаты.
Розадо провел анализ Грока (в Регулярном режиме) вскоре после получения доступа к чат-боту через его подписку X. Он обнаружил, что ответы Грока выражают ярко выраженную либертарианскую тенденцию – что, без сомнения, порадует Маска и его поклонников – но на некоторых вопросах относительно внешней политики и культуры он кажется более леворадикально настроенным. Интересно, что Розадо обнаружил, что уточняющий вопрос о том, как Грок мыслит, заставляет его приближаться к политическому центру. Розадо предупреждает, что его результаты – это анекдотические данные.
Розадо говорит, что вскоре после того, как он опубликовал свои результаты на X, его связался член команды xAI, который хотел узнать больше о его экспериментах. Недолго спустя Маск вступил в дискуссию, чтобы оспорить методику исследования. “Этот тест не выглядит точным. Некоторые вопросы абсурдны, а многим не хватает нюансов”, написал Маск. Но через несколько дней он подтвердил в ответе на другой пост на X, что xAI попытается сделать Грок менее политически предвзятым в будущем. Исследователь xAI, связавшийся с Розадо, не ответил на прямое сообщение о Гроке от ENBLE.
ENBLE проверила Грок и обнаружила, что он выдаёт ответы, кажущиеся тщательно нейтральными на многих разделительных политических вопросах, включая доступ к абортам, права на оружие и события 6 января 2021 года.
Как и следовало ожидать от относительно новой модели ИИ, разработанной за короткий период времени, Грок в целом кажется гораздо менее способным, чем ChatGPT или другие передовые чат-боты. Он склонен к галлюцинациям и легко обманывается, игнорируя ограничения, связанные с советами о нарушении законодательства. Вопрос о том, может ли он действительно быть политически нейтральным, как обещает Маск, является спорным, поскольку предрассудки прочно вкоренены в языковые модели и их сложно достоверно контролировать.
Юлия Цветкова, профессор Университета Вашингтона, которая написала статью в июле, исследовавшую политические предубеждения в крупных языковых моделях, говорит, что даже кажущиеся нейтральными данные для обучения могут привести к языковой модели, которая кажется предвзятой для некоторых людей, потому что тонкие предубеждения могут усиливаться моделью при предоставлении ответов. “Невозможно ‘раздублировать предвзятость’ ИИ, так как это означает устранить или замолчать мнения людей”, – говорит она.
Цветкова добавляет, что обучение языковой модели снять предубеждение может привести к созданию чего-то обезличенного и скучного. “Сила крупных языковых моделей заключается в их способности представлять язык, информацию, эмоции и мнения людей во всей их многообразии и разнообразии”, – говорит она.
Маск ясно дал понять, что он видит воспроизведение определенной личности Грока как одну из продажных черт проекта. И, учитывая его все большее участие в политических дебатах в последние годы, возможно, истинная нейтральность – не то, чего он на самом деле хочет. Возможно, то, чего он и его поклонники действительно хотят, – это чат-бот, отражающий их собственные предубеждения.
