У Facebook может появиться чат-боты — и это может быть проблемой | ENBLE
Facebook может запустить чат-боты, что может вызвать проблемы.
Владелец Facebook Meta планирует внедрить в свое приложение чатботы с отдельными личностями. Запуск может произойти уже в сентябре и станет вызовом для таких конкурентов, как ChatGPT. Однако есть опасения, что это может иметь серьезные последствия для конфиденциальности пользователей.
Идея возникла после публикации в Financial Times, который сообщает, что данный шаг является попыткой увеличить вовлеченность пользователей Facebook. Новый инструмент сможет осуществлять это, предоставляя новые возможности поиска или рекомендуя контент, всё это через общение, приближенное к человеческому.
Согласно источникам, на которые ссылается Financial Times, чатботы будут иметь разные личности, включая “личность, эмулирующую Авраама Линкольна, и другую, дающую советы о вариантах путешествий в стиле серфингиста”.
Это не первый случай, когда мы видим, что чатботы принимают собственную личность или разговаривают в стиле известных людей. Например, чатбот Character.ai может принять десятки различных личностей, включая знаменитостей и исторические фигуры.
Опасения о конфиденциальности
Несмотря на то, что чатботы Meta могут представлять большой интерес, также возникают опасения относительно объема данных, которые они, скорее всего, будут собирать, особенно учитывая плачевную репутацию Facebook в защите конфиденциальности пользователей.
- DALL-E 3 может поднять генерацию изображений с помощью искусственно...
- Facebook блокирует новости в Канаде, и Google, возможно, последует ...
- Чтобы понять затраты на SaaS, вы должны знать, что в них содержится.
Равит Дотан, советник по этике и исследователь в области искусственного интеллекта, заявил в интервью Financial Times: “Когда пользователи взаимодействуют с чатботом, это действительно раскрывает компании гораздо больше их данных, чтобы компания могла делать с ними все, что захочет”.
Это не только открывает возможность для масштабных нарушений конфиденциальности, но также позволяет возможность “манипуляции и воздействия” на пользователей, добавил Дотан.
Большой риск
У других чатботов, таких как ChatGPT и Bing Chat, есть история “галлюцинаций” или моментов, когда они передают неверную информацию или даже дезинформацию. Потенциальный ущерб, причиняемый дезинформацией и предвзятостью, может быть намного больше на Facebook, который имеет почти четыре миллиарда пользователей, по сравнению с конкурирующими чатботами.
Предыдущие попытки Meta создать чатботы прошли неудачно, и их BlenderBot 2 и BlenderBot 3 быстро превратились в вводящий в заблуждение контент и оскорбительную ненавистническую речь. Это может не дать пользователям много надежды на успех последней попытки Meta.
С сентября быстро приближается, и у нас может не остаться много времени, чтобы увидеть, сможет ли Facebook преодолеть эти препятствия или мы столкнемся с еще одним запутанным запуском, подобным тем, что произошли в других компаниях. В любом случае, будет интересно следить за развитием событий.
