🤖 Reddit представляет AI-систему безопасности для борьбы с домогательствами.
Недавно введённый фильтр белесия был обучен с использованием ранее отмеченного материала.
“`html
Reddit запускает AI-инструмент для выявления онлайн-травли.
🔗 Источник: Reddit AI Safety Filter
Reddit, популярная онлайн-платформа для общения и обсуждений, недавно выпустила AI-инструмент безопасности для борьбы с домогательствами и неприемлемым контентом. Этот “фильтр травли” является значительным шагом к тому, чтобы сделать Reddit безопасным местом для своих пользователей. 🚀
Как работает AI-инструмент безопасности?
По словам Reddit, фильтр использует технологию под названием Large Language Model (LLM), обученную на действиях модераторов и контенте, удаленном внутренними инструментами и службами Reddit. Другими словами, он учится на опыте человеческих модераторов и готов помочь цифровой рукой. 🤖💪
Когда сообщество и его модераторы активируют фильтр, в очереди модераторов появляется новый флажок, отмечающий контент, который был помечен как “потенциально домогательный”. Модераторы могут затем просматривать и либо одобрять, либо удалять контент, давая обратную связь Reddit о его точности. Это совместное усилие дает возможность как людям, так и ИИ поддерживать безопасную онлайн-среду. 👥🔒
- Беседы о бизнес-аналитике Fluent использует искусственный интеллект...
- Гугл берется за борьбу с алгоритмически созданным спамом что вам ну...
- AI может решить бюрократию вместе с Эмили Потит из Advocate.
Почему важен фильтр травли?
Модерация онлайн-сообществ может быть ошеломляющей задачей. Посвященная команда модераторов Reddit сталкивается с огромным вызовом – сохранить платформу свободной от обидного и вредоносного контента. С введением AI-фильтра Reddit надеется облегчить их задачу и улучшить способность идентифицировать и решать проблемные сообщения и комментарии. 💪🛡️
Этот инновационный инструмент дополняет существующий фильтр травли в Modmail, который действует как “спам”-папка для потенциально обидного контента в сообщениях модераторов. Теперь, охватывая сообщения и комментарии, фильтр безопасности предлагает дополнительный уровень защиты для пользователей Reddit и сохраняет целостность платформы. 📩🔒
Как настроить фильтр травли Reddit
Настройка фильтра травли для вашего сообщества – легкое дело! Просто следуйте этим простым шагам:
-
Пользователи ПК: Перейдите на вкладку О сообществе справа на боковой панели и выберите Инструменты модератора. 🖥️ Пользователи iOS и Android: Нажмите на кнопку Инструменты модератора под баннером вашего сообщества.
-
Перейдите в раздел Модерирование и нажмите на Безопасность.
-
Выберите вариант фильтра травли и включите его. 🎚️
-
Выберите между низким или высоким вариантом фильтра. Низкий вариант блокирует минимальное количество контента, но обладает более высокой точностью в обнаружении травли. С другой стороны, высокий вариант выполняет более широкий поиск, блокируя больше сообщений. Reddit рекомендует использовать высокий вариант, если ваше сообщество сталкивается с значительным количеством обидного контента. ⚠️
Reddit будет продолжать автоматически удалять сообщения, явно нарушающие его политику контента. Фильтр травли, однако, дает сообществам возможность управлять неприемлемым контентом, который может соответствовать политике, но вызывать обеспокоенность. Такой тонкая настройка обеспечивает более безопасный и инклюзивный опыт Reddit. 🌟✨
Погружение в новейшие достижения Reddit
Введение AI-инструмента безопасности добавляется в список недавних улучшений и обновлений, сделанных Reddit. Платформа на подъеме, с ожиданием своего дебюта на фондовом рынке в этом месяце. Следите за обновлениями, поскольку Reddit продолжает улучшать свои функции и опыт, чтобы лучше служить своему яркому сообществу! 🚀🎉
Чтобы узнать больше о приверженности Reddit к безопасности и новым разработкам, ознакомьтесь с этими содержательными статьями:
- Новые отчеты связывают Meta и ‘мам-блогеров’ в поддержке эксплуатации детей онлайн
- Deepfake-реклама с участием Дженны Ортега показана на платформах Meta. Крупные технологические компании должны бороться с этим.
- ACLU предупреждает о предложенном запрете TikTok за нарушение Первой поправки
- Google Search пытается бороться с ‘низкокачественным’ контентом
- OpenAI делится письмами Элона Маска, говорит, что он хотел ‘полного контроля’ над компанией
“““html
💬 Ответы на вопросы читателей
Q: Может ли фильтр преследований полностью устранить весь оскорбительный контент? A: Хотя фильтр преследований значительно улучшает выявление и обработку недопустимого контента, ни одна система не идеальна. ИИ Reddit стремится найти баланс между минимизацией ложных срабатываний и эффективным выделением потенциально вредного контента. Обратная связь пользователей играет ключевую роль в обучении и улучшении модели искусственного интеллекта.
Q: Как Reddit может гарантировать, что фильтр не подавляет законные дискуссии? A: Reddit признает эту проблему, поэтому они предлагают варианты фильтрации Low и High. Вариант Low придает приоритет точности, в то время как вариант High расширяет область действия. Содержимое, которое может быть неправильно помечено, может быть просмотрено модераторами и передано в Reddit для последующего усовершенствования.
Q: Какие еще инициативы предпринял Reddit для обеспечения безопасной среды? A: Помимо фильтра преследований, Reddit активно работает над различными мерами безопасности. Сюда входят система отчетности о политике контента, отчеты сообщества о наградах и комплексная команда по борьбе с злом. Reddit обязуется к постоянному совершенствованию и сотрудничеству с его сообществами для решения проблем безопасности.
Будущее ИИ в обеспечении онлайн-безопасности
Фильтр безопасности, работающий на базе ИИ Reddit, является значительным шагом в борьбе против онлайн-преследований. Поскольку технологии искусственного интеллекта продолжают развиваться, мы можем ожидать еще более сложных инструментов для поддержки модераторов и создания безопасных цифровых пространств. Давайте отметим этот позитивный прогресс и продолжим работу над ярким онлайн-будущим! 🌐🤖💙
Понравилась статья? Поделитесь ее с друзьями и распространите информацию о фильтре безопасности, работающем на базе ИИ Reddit! 📣💻
Следите за мной, чтобы получать еще более увлекательный контент о компьютерных технологиях и программировании! 🌟😃✍️
🔗 Ссылки: – Фильтр безопасности на базе ИИ Reddit – Новые отчеты связывают Meta и ‘мам-блоггеров’ в поддержке онлайн-эксплуатации детей – Реклама с дипфейком с участием Дженны Ортеги вышла на платформах Meta. Крупные технологические компании должны с этим бороться. – ACLU предупреждает о предложенном запрете TikTok нарушающем Первую поправку – Google Search пытается бороться с ‘низкокачественным’ контентом – OpenAI делится письмами Элона Маска, говорит, что он хотел ‘полного контроля’ над компанией
“`
