Даже OpenAI отказалась пытаться обнаружить плагиат ChatGPT | ENBLE
OpenAI отказалась обнаруживать плагиат в ChatGPT | ENBLE
OpenAI, создатель популярного чат-бота на искусственном интеллекте (ИИ) ChatGPT, закрыл инструмент, разработанный для обнаружения контента, созданного ИИ, а не людьми. Инструмент, названный AI Classifier, был закрыт всего через шесть месяцев после запуска из-за “низкой точности”, сообщила OpenAI.
Поскольку ChatGPT и конкурирующие сервисы стали чрезвычайно популярными, появилась координальная обратная связь от различных групп, озабоченных последствиями несконтролируемого использования ИИ. Во-первых, педагоги особенно беспокоятся о возможности использования ChatGPT студентами для написания эссе и заданий, а затем представления их как своих собственных.
AI Classifier OpenAI был попыткой устранить опасения этих и других групп. Идея заключалась в том, чтобы определить, был ли текст написан человеком или чат-ботом на ИИ, предоставив людям инструменты для справедливой оценки студентов и борьбы с дезинформацией.
Тем не менее, уже с самого начала OpenAI, казалось, не очень верил в свой собственный инструмент. В блоге, объявляющем о инструменте, OpenAI заявил, что “Наш классификатор не является полностью надежным”, отметив, что он правильно идентифицировал тексты, написанные ИИ, из “группы испытаний” всего лишь в 26% случаев.
Решение о прекращении использования инструмента не получило большого внимания, и OpenAI не опубликовала отдельный пост на своем веб-сайте. Вместо этого компания обновила пост, в котором был представлен AI Classifier, указав, что “классификатор AI больше не доступен из-за низкой точности”.
- Прочь, треды, TikTok привносит свой собственный подход к текстовым ...
- Лучшие предложения по 3D-принтерам оживите свои творения за $170 | ...
- Spotify повышает цены на премиум-аккаунты
В обновлении говорится: “Мы работаем над внедрением обратной связи и в настоящее время исследуем более эффективные техники происхождения текста и обязуемся разрабатывать и внедрять механизмы, позволяющие пользователям понять, является ли аудио- или визуальный контент созданным ИИ”.
Нужны лучшие инструменты
AI Classifier – не единственный инструмент, разработанный для обнаружения контента, созданного ИИ, так как существуют и продолжат работать конкуренты, такие как GPTZero, несмотря на решение OpenAI.
Прошлые попытки определить текст, созданный ИИ, закончились катастрофой. Например, в мае 2023 года профессор ошибочно провалил весь свой класс, обратившись к ChatGPT для обнаружения плагиата в работах студентов. Не нужно говорить, что ChatGPT сильно ошибся, и также сделал профессор.
Это вызывает беспокойство, когда даже OpenAI признает, что не может правильно распознать плагиат, созданный его собственным чат-ботом. Это происходит в период возрастающей тревоги по поводу разрушительного потенциала чат-ботов на ИИ и требует временной приостановки развития в этой области. Если ИИ будет иметь такой же большой влияние, как предсказывают некоторые люди, миру понадобятся более сильные инструменты, чем неудавшийся AI Classifier от OpenAI.
