OpenAI создает сеть команды красных для решения вопросов безопасности искусственного интеллекта – и вы можете подать заявку.
OpenAI создает команду красных для безопасности искусственного интеллекта - подайте заявку.
ChatGPT от OpenAI набрал более 100 миллионов пользователей по всему миру, подчеркивая как позитивные примеры использования искусственного интеллекта, так и необходимость большей регулировки. OpenAI теперь собирает команду, чтобы помочь создавать более безопасные и надежные модели.
Во вторник OpenAI объявила о запуске OpenAI Red Teaming Network, состоящей из экспертов, которые могут помочь предоставить информацию для оценки рисков и стратегий снижения рисков компании при развертывании более безопасных моделей.
Также: Все объявления Amazon AI, о которых вам стоит знать
Эта сеть изменит способ, которым OpenAI осуществляет оценку рисков, превратив ее в более формальный процесс, включающий различные этапы разработки модели и продукта, вместо “единичных контактов и процессов выбора перед основными развертываниями модели”, как указано в сообщении OpenAI.
OpenAI ищет экспертов различных областей для формирования команды, включая доменные знания в области образования, экономики, права, языков, политической науки и психологии, чтобы назвать только несколько.
- Все, что только что объявила компания Amazon обновления для Алексы,...
- Amazon говорит, что новое устройство Wi-Fi Eero Max 7 позволит вам ...
- Европа и США на равных в исследованиях по инновациям в области 3D-п...
Также: Как использовать ChatGPT для исследований, презентаций, исследовательских работ и другого
Однако OpenAI говорит, что предыдущий опыт работы с системами искусственного интеллекта или языковыми моделями не требуется.
Участникам будет оплачиваться их время и они будут подлежать соглашениям о неразглашении (NDA). Поскольку они не будут участвовать в каждой новой модели или проекте, участие в команде красного цвета может быть связано с небольшим коммитментом времени в размере пяти часов в год. Вы можете подать заявку на вступление в сеть через сайт OpenAI.
Помимо кампаний сети красного цвета OpenAI, эксперты могут обсуждать друг с другом общие “практики и результаты красного цвета”, как указано в блоге.
Также: Amazon превращает Alexa в голосовой ChatGPT
“Эта сеть предлагает уникальную возможность формировать разработку безопасных технологий и политик и оценить влияние, которое искусственный интеллект может оказать на нашу жизнь, работу и взаимодействие”, – говорит OpenAI.
Красный цвет – это важный процесс для тестирования эффективности и обеспечения безопасности новых технологий. Другие крупные технологические гиганты, включая Google и Microsoft, имеют специальные команды красного цвета для своих моделей искусственного интеллекта.
