Возникновение генеративного искусственного интеллекта борьба с дипфейками и обеспечение безопасности технологий ИИ

Оставайтесь в курсе постоянно меняющегося мира искусственного интеллекта с нашим еженедельным обзором новостей.

В этой статье мы поговорим о последних новостях AI. FCC жестко пресекает надоедливые робозвонки, Google говорит прощай любимому сотруднику, а Альтман нацелен на создание микросхемы стоимостью в триллион долларов. Погружаемся!

Генеративное искусственное интеллект стало глобальным явлением благодаря доступности мощных инструментов, позволяющих генерировать текст, аудио и видео любому желающему. В то время как есть множество позитивных применений этой технологии, также есть опасения относительно ее злоупотребления, особенно при создании дипфэйков. Эти фальшивые медиафайлы могут использоваться для обмана, мошенничества и вызывать хаос. В ответ на эти угрозы правительственные организации принимают меры для минимизации вреда, наносимого дипфэйками.

FCC жестко пресекает фальшивые голоса робозвонков

Заметное происшествие с генеративным ИИ произошло в Нью-Гэмпшире, где избиратели получили звонок, сгенерированный ИИ, имитирующий президента Джо Байдена, который призывал их не голосовать на предвыборной праймери. В ответ на это Федеральная комиссия связи (FCC) недавно сделала фальшивые голоса робозвонков незаконными. FCC активно работает над решением этой проблемы с ноября месяца, и они также исследуют использование ИИ для предотвращения совершения незаконных звонков.

🔥 Знаете ли вы? Поддельные робозвонки Байдена происходили от компании из Техаса, согласно генеральному прокурору Нью-Гэмпшира, который начал уголовное расследование. Источник

Решение FCC запретить генерацию робозвонков с использованием ИИ демонстрирует их приверженность защите общества от мошенничества и дезинформации. Штатные прокуроры теперь имеют дополнительные инструменты для борьбы со скамами и обеспечения безопасности граждан.

📝 Вопрос: Как я могу сообщить о робозвонке, будь то генерируемый ИИ или нет?

• Dell Inspiron 14 2-in-1 Laptop Сделка, которую вы не захотите пропу...
• 🚀 Будущее гарнитуры смешанной реальности Apple Vision Pro 🤓💻
• 3 причины, почему Quest 3 превосходит Vision Pro | ENBLE

О: Вы можете подать жалобу на робозвонок с помощью онлайн-формы FCC. Сообщение о таких звонках является важным в борьбе с мошенничеством и защите как вас самого, так и других.

Приложения Байдена для обеспечения безопасности и надежности AI

Для борьбы с потенциальными опасностями, связанными с технологией ИИ, администрация Байдена выпустила распоряжение в октябре, требующее установки стандартов и средств обеспечения безопасного и надежного использования ИИ. Государственные органы уже завершили действия, предусмотренные в распоряжении на 90 дней, и сделали прогресс в выполнении других важных указов.

Например, Министерство торговли создало Институт безопасности ИИ для установки стандартов для систем ИИ. Эта инициатива направлена на предотвращение использования ИИ в создании массового оружия, такого как химическое, биологическое или ядерное оружие. Кроме того, разработчикам ИИ будет требоваться передача результатов безопасности в правительство перед выпуском их продуктов на рынок в 2024 году и далее.

Администрация признает потенциальный вред, который может возникнуть из-за дезинформации, особенно из-за дипфэйков или ИИ-генерируемого контента, выглядящего аутентично. Путем реализации мер безопасности и ответственности правительство стремится защитить от манипуляции и обмана.

⚡ Интересный факт: Компании из Силиконовой долины, включая Meta (ранее Facebook) и Google, обязались создать стандарты водяных знаков, чтобы пометить ИИ-генерируемый контент. Это позволяет пользователям определить контент, сгенерированный ИИ. Источник

Необходимость эффективных технологий маркировки и водяных знаков

OpenAI и Meta предпринимают активные меры для маркировки изображений и видео, созданных с помощью ИИ, чтобы информировать пользователей, что контент не был создан людьми. OpenAI планирует добавить водяные знаки к изображениям, созданным с помощью ChatGPT и Dall-E, с целью повышения доверия и привнесения атрибуции.

Однако важно отметить, что эти водяные знаки не являются надежными и могут быть легко удалены, что может затруднить возможность точно определить ИИ-генерируемый контент. Платформы социальных сетей часто удаляют метаданные из загруженных изображений, и такие действия, как снятие скриншотов, также могут стереть водяные знаки. Проблема заключается в поиске эффективных методов обеспечения целостности контента без ущерба для пользовательского опыта или точной маркировки.

💡 Экспертное мнение: Разработка всеобъемлющих методов маркировки и водяных знаков является важным аспектом в борьбе с ростом дипфэйков и других форм ИИ-генерируемого контента. Нахождение баланса между безопасностью и доступностью остается вызовом в сфере ИИ.

Влияние мошеннических deepfake-роликов: 25-миллионное ограбление

Недавний случай, когда сотрудник финансовой компании в Гонконге стал жертвой технологии deepfake, подчеркивает потенциал использования deepfake в мошеннических схемах. Работник был обманут и заплатил 25,6 миллиона долларов мошенникам, которые выдали себя за главного финансового директора компании во время видеоконференции. Несмотря на первоначальные подозрения в отношении фишинговой атаки, сотрудник был убежден в достоверности deepfake-технологии, так как все участники звонка выглядели и звучали так, как будто это были знакомые сотрудники.

📝 Вопрос: Как мы можем защитить себя от мошеннических схем с использованием deepfake?

Ответ: Оставайтесь бдительными и проверяйте подлинность любых подозрительных запросов независимо. Дополнительная проверка с головного офиса компании или у надежных источников может помочь предотвратить попадание в ловушку мошенничества с использованием deepfake. Всегда лучше быть в безопасности, чем сожалеть!

Инструменты Gen AI от Google: от Bard до Gemini

В рамках конкуренции между гигантами технологической отрасли в области искусственного интеллекта, Google переименовал свои инструменты Gen AI с “Bard” на “Gemini” после запуска своей модели большого языка LLM. В то время как название Bard вызывало ассоциации с поэтическими качествами, Google выбрал имя “Gemini”, чтобы соответствовать своему подходу, основанному на искусственном интеллекте. Изменение прежде всего затрагивает название, логотип, приложения и введение премиальной платной версии под названием “Ultra”.

Интересно, что в переходный период Gemini может ошибочно определиться как Bard, что отражает проблемы самосознания, с которыми могут столкнуться системы искусственного интеллекта.

Еще одно заметное изменение – Gemini должен стать основным ассистентом на телефонах Android, постепенно замещая Google Assistant для мобильных пользователей.

Роль искусственного интеллекта в будущем персональных компьютеров

По данным исследовательской фирмы IDC, более 50% всех продаваемых ПК к 2027 году будут иметь встроенные возможности искусственного интеллекта или специальные возможности системы на микросхеме (SoC), предназначенные для выполнения задач генеративного искусственного интеллекта на локальном уровне. IDC прогнозирует, что в 2024 году будет отправлено более 50 миллионов ПК с искусственным интеллектом, а к 2027 году этот показатель ожидается более 167 миллионов, что составит почти 60% от общего числа ПК по всему миру.

Этот переход к ПК с интегрированным искусственным интеллектом включает использование нейронных процессорных блоков (NPUs), специальной микросхемы для искусственного интеллекта, созданных компаниями-вендорами ПК. NPUs оптимизируют задачи искусственного интеллекта, обеспечивая улучшенную производительность и продолжительность работы от аккумулятора по сравнению с традиционными ЦПУ и ГПУ.

IDC предсказывает, что внедрение возможностей искусственного интеллекта в ПК приведет к значительным преимуществам и побудит отрасль ПК использовать потенциал генеративного искусственного интеллекта.

Амбициозный план OpenAI по изменению рынка искусственного интеллекта на чипах

В попытке решить проблему нехватки чипов искусственного интеллекта для своих чат-ботов и исследований искусственного общего интеллекта (AGI), CEO OpenAI Сэм Альтман ищет финансирование для амбициозного проекта, целью которого является увеличение мощности по созданию чипов. По сообщениям, Альтман ведет переговоры с потенциальными инвесторами, включая правительство Объединенных Арабских Эмиратов, и оценивает, что для реализации проекта может потребоваться инвестиции от 5 триллионов до 7 триллионов долларов.

Альтман стремится революционизировать отрасль полупроводников, разрабатывая чипы, оптимизированные для задач искусственного интеллекта, и расширяя возможности OpenAI для поддержки систем искусственного интеллекта. Однако масштаб требуемого финансирования значительно превышает текущий размер мировой чиповой промышленности. Успешная реализация видения Альтмана потребует трллионов долларов и сделает эту инициативу по сбору средств одной из самых крупных в истории.

🔥 Знаете ли вы? OpenAI также инвестирует в стартапы, работающие над ядерным синтезом для производства дешевой энергии для своих энергоемких AI-центров, что напоминает интерес основателя Oracle Ларри Эллисона к технологиям продления жизни.

Поддержка образования и просвещения в области искусственного интеллекта: кампания “AI for America” от TechNet

TechNet, непартийная организация, занимающаяся защитой интересов технологической индустрии, недавно запустила образовательную кампанию “AI for America” на сумму 25 миллионов долларов. Кампания включает 30-секундный ролик “Это AI”, который подчеркивает потенциальные выгоды искусственного интеллекта в различных сферах, особенно в здравоохранении и прогнозировании погоды. Показывая положительное влияние AI на общество, TechNet стремится привлечь больше внимания и понимания этой трансформационной технологии.

📚 Список литературы: – AI-generated deepfake Biden robocalls originated from a Texas company – ENBLE – Guide on AI-generated robocalls – Executive order on AI by the Biden administration – European Union’s AI Act – Meta’s AI labeling plans – Market forecast for AI-integrated PCs – OpenAI’s quest to reshape the AI chip business –

Писать эффективные приглашения для ИИ

Написание эффективного приглашения является важным условием для получения точных и актуальных ответов от системы ИИ, такой как ChatGPT. Вот три ключевых рекомендации по созданию успешных приглашений:

1. Будьте конкретными: Общие приглашения дают общие результаты. Четко определите тип и жанр контента, который вы ищете. Укажите такие факторы, как целевая аудитория, объем, тональность (серьезная или смешная) или любую другую соответствующую информацию.

2. Используйте “делайте” и “не делайте”: Предоставьте ИИ четкие инструкции о том, что вы хотите и не хотите видеть в ответе. Это может сэкономить время и повысить качество создаваемого контента. Например, если вы ищете рецепты итальянской кухни без глютена, явно укажите эти требования.

3. Учтите тона и аудиторию: Помогите ИИ понять желаемую тональность и целевую аудиторию. Предоставление контекста о типе аудитории и предполагаемой тональности может помочь создать более подходящие и эффективные ответы. Укажите рекомендации, такие как создание смешной, трогательной и приемлемой для семейной аудитории речи свидетеля.

🌟 Профессиональный совет: Создание четко определенных приглашений повысит качество и актуальность создаваемого ИИ-контента, обеспечивая его соответствие вашим конкретным потребностям.

Заключение: Ориентирование в мире ИИ

Поскольку генерирующий ИИ продолжает развиваться и проникать в различные сферы нашей жизни, обеспечение безопасности, ответственности и эффективного использования этой технологии становится приоритетом. Государственные организации предпринимают меры для защиты от дипфейков и мошенничества. Компании, такие как OpenAI и Meta, внедряют техники маркировки и водяные знаки для точного идентифицирования ИИ-сгенерированного контента. В то же время, распространение ПК с интегрированным ИИ и амбициозные планы OpenAI по перепроектированию бизнеса по производству ИИ-чипов указывают на широкое влияние ИИ на технологический прогресс. Через информационные кампании и образовательные мероприятия такие организации, как TechNet, стремятся информировать и привлекать потребителей к пониманию потенциальных преимуществ и ответственного использования ИИ.

Помните, что в постоянно меняющемся мире ИИ важно быть информированными и приспособиться к новым тенденциям. Понимая риски, используя преимущества и активно участвуя в текущих дискуссиях, мы можем сформировать будущее ИИ в лучшую сторону.

🤝 Готовы исследовать возможности ИИ? Будьте в курсе событий и поделитесь этой статьей с другими. Вместе давайте ориентироваться в захватывающем мире генерирующего ИИ!

• artificial intelligence