Ведущие компании по искусственному интеллекту обязуются бороться с онлайн-терроризмом
Ведущие компании по искусственному интеллекту обязуются бороться с интернет-терроризмом
В попытке сдержать онлайн-терроризм, гиганты искусственного интеллекта, включая OpenAI и Anthropic, обязались поддерживать Зов к действию Крайстчерча. Эта инициатива возникла в ответ на трагические события в 2019 году – стрельбу в мечети в Крайстчерче, Новая Зеландия, которые инициировали президент Франции Эмманюэль Макрон и затем премьер-министр Новой Зеландии Джасинда Ардерн.
Растущая угроза онлайн-терроризма
Важность участия этих компаний искусственного интеллекта заключается в том, что правительственные и промышленные лидеры признают неотвратимый риск использования террористами и экстремистами передовых технологий искусственного интеллекта. Недавние события, такие как атаки Хамаса на Израиль с 7 октября, показали “огромное количество” распространяемого онлайн контента террористического характера, вызывая тревогу о необходимости решительных противомер.
Джасинда Ардерн, в ходе дискуссии с Axios в Париже, подчеркнула потенциальную роль искусственного интеллекта в смягчении террористической деятельности. Она отметила развивающуюся отрасль технологий безопасности, доступные решения с открытым исходным кодом и партнерство между Microsoft и Tech Against Terrorism для улучшения сервиса безопасности контента Azure с использованием искусственного интеллекта.
На саммите в Париже OpenAI и Anthropic официально присоединились к Зову Крайстчерча вместе с другими технологическими компаниями, такими как Discord и Vimeo. Это произошло после критики платформ за недостаточное контролирование экстремистского контента, особенно после прямой трансляции атаки в Крайстчерче на Facebook.
Эффективные протоколы реагирования на кризис
Протокол реагирования на кризис, разработанный участниками Зова Крайстчерча, сыграл ключевую роль в комплексном удалении видеозаписи прямой трансляции из супермаркета Буффало, где произошла стрельба с массовыми жертвами в 2022 году. Несмотря на эти усилия, Ардерн замечает недостатки в применении этих протоколов в последнее время.
- Хакеры используют интерес ИИ к мошенническим схемам с вредоносным к...
- OpenAI стремится расширить партнерство с Microsoft и привлечь финан...
- Третья бета tvOS 17.2 от Apple для разработчиков
Tech Against Terrorism оценивает, что еженедельно создается около 5 000 AI-сгенерированных материалов террористического характера. Одна из наиболее серьезных опасностей заключается в возможности использования инструментов искусственного интеллекта для обхода систем автоматической идентификации контента террористического характера, что повышает ставки для технологических платформ в борьбе против онлайн-экстремизма.
Обязательства Зова Крайстчерча
Оригинальный призыв к действию сосредотачивается на принятии немедленных мер по предотвращению распространения экстремистского контента, особенно через прямые трансляции. Ардерн, осознавая последствия крайстчерчской резни, призывает к устойчивому усилию и инновациям в борьбе с онлайн-терроризмом.
Ардерн называет себя “техно-прагматиком” и признает скептицизм в отношении искусственного интеллекта и социальных медиа. Она призывает компании-разработчики искусственного интеллекта проявлять инициативу, признавая потенциальные вредные последствия и работая над предупреждением проблем, вместо того чтобы исправлять их после возникновения.
Хотя искусственный интеллект предлагает более быстрые и, возможно, более надежные варианты, чем люди-модераторы, в обнаружении экстремистского контента, компании и правительства, принимающие участие в Зове Крайстчерча, сталкиваются с минимальными требованиями в отношении отчетности. Отсутствие надзора позволяет сокращать модерацию контента, даже если компании получают признание за их участие.
Инклюзивность и глобальные стандарты
Зов, поощряя свободный, открытый и безопасный интернет, ставит перед не-демократическими правительствами и компаниями в таких странах определенные вызовы. Ардерн предлагает, что эти организации могут применять стандарты Зова, неформально присоединяясь к ним, обеспечивая более широкое соблюдение его принципов.
