Граймс хочет быть менее известной (и замененной искусственным интеллектом)
Граймс хочет быть замененной искусственным интеллектом
В ЭПИЗОДЕ НА ЭТОЙ НЕДЕЛЕ Have a Nice Future, Гидеон Личфилд и Лорен Гуд присоединяются к c, или, как она более широко известна, Grimes. Ранее в этом году она запустила Elf.tech, веб-сайт, где ее поклонники могут использовать искусственный интеллект для создания собственных песен Grimes на основе ее вокала и звуков. Они говорят о том, почему c хочет расширить границы искусства искусственного интеллекта и почему, несмотря на то, что по своей сути она является техно-оптимистом, она беспокоится о нашем будущем с искусственным интеллектом.
Ознакомьтесь с большим интервью с c от Стивена Леви в сентябрьском номере ENBLE. Если вы пропустили наш эпизод с Пуджей Патель, главным редактором Pitchfork, о новой волне генеративного искусственного интеллекта в музыке и искусственно созданном Дрейке, вы можете наверстать упущенное здесь. У нас также есть еще много историй о всем, что связано с искусственным интеллектом.
Лорен Гуд – @LaurenGoode. Гидеон Личфилд – @glichfield. Звоните на главную горячую линию @ENBLE.
Вы всегда можете слушать подкаст этой недели через аудиоплеер на этой странице, но если вы хотите подписаться бесплатно, чтобы получать каждый эпизод, вот как:
- Эта компания по искусственному интеллекту выпускает deepfake в дику...
- Магическая батарея’ Apple будет питать гарнитуру Vision Pro
- Почему рынок доставки продуктов в Европе находится в состоянии нест...
Если у вас есть iPhone или iPad, просто нажмите эту ссылку или откройте приложение подкастов и найдите Have a Nice Future. Если вы используете Android, вы можете найти нас в приложении Google Podcasts, просто нажав здесь. Вы также можете скачать приложение, такое как Overcast или Pocket Casts, и найти Have a Nice Future. Мы также на Spotify.
Примечание: Это автоматический транскрипт, который может содержать ошибки.
Гидеон: Я ненавижу то, что начинаю каждое предложение с “так”. Это настолько… недообразительно!
Лорен: Привет, я Лорен Гуд.
Гидеон: И я Гидеон Личфилд. И это Have a Nice Future, подкаст о том, как страшно быстро все меняется.
Лорен: Каждую неделю мы беседуем с кем-то, у кого есть большие, смелые и иногда тревожные идеи о будущем, и спрашиваем у них, как мы все можем подготовиться к жизни в нем.
Гидеон: Наш гость на этой неделе – музыкант c, или, как она лучше известна, Grimes. Вы услышите, как мы обращаемся к ней в обоих названиях в этом эпизоде. В прошлом весной она запустила Elf.Tech, где ее поклонники могли создавать музыку с помощью искусственно созданной версии ее голоса и звука.
[Музыка]
Grimes (архивная аудиозапись): Меня интересует быть менее известной. Меня интересует создание более сложного искусства для более узкой аудитории, которая более заинтересована в философских искусствах, более сложных искусствах, которые, возможно, имеют меньше популярности. Я просто хочу делать то, что еще не делали. Более того, чем иметь хит или что-то в этом роде.
Лорен: Так что наши суперфанаты могут помнить, что пару месяцев назад мы говорили с Пуджей Патель, главным редактором Pitchfork, о новой волне генеративного искусственного интеллекта в музыке и о том, как все возбуждались по поводу искусственно созданного Дрейка. За кулисами мы тоже пытались связаться с c, потому что считали, что ее взгляды будут очень ценными, и, наконец, мы ее получили в шоу.
Гидеон: Кстати, у нас также есть интервью с ней от Стивена Леви в сентябрьском номере ENBLE, который только что появился онлайн на ENBLE.com на этой неделе.
Лорен: Верно. И мы хотели поговорить с c в подкасте, потому что она – художник, который принимает искусственный интеллект, а не бежит от него.
Гидеон: Правильно. Так что она выложила свою музыку и голос в сеть и сказала своим фанатам в основном: “Делайте все, что хотите”. И если это звучит немного экстраординарно, то это в какой-то степени и описывает разговор, который вы собираетесь услышать. Мы также много говорили о практическом применении искусственного интеллекта.
Лорен: Да, она много говорит о LLM, или больших языковых моделях, которые являются основой этой новой эры искусственного интеллекта. И в целом она оптимистична, но мы также услышали немного о тех областях, где она беспокоится о искусственном интеллекте. И я думаю, что ее точка зрения особенно интересна здесь, потому что она более погружена в эту технологию, чем некоторые другие художники. Она даже проводит время в технологических компаниях в эти дни, инкубируя идеи. И, конечно же, известно, что она воспитывает двоих детей с Илоном Маском.
Гидеон: Как вы могли ожидать, наш разговор шел во многих разных направлениях. Мы говорили об искусстве, образовании, политике и сущности мужественности.
Лорен: Да, последний пункт был настоящим сюрпризом. Но прежде чем мы перейдем к интервью, немного деловой информации. Мы хотим услышать от вас. Мы читаем отзывы. У нас есть адрес электронной почты. Вы можете написать нам на [email protected] или просто оставить нам заметку в вашем любимом приложении для подкастов. Скажите нам, что вам хотелось бы услышать больше. Скажите нам, что вам не нравится. Мы можем это выдержать, мы здесь взрослые. Просто свяжитесь с нами. Мы любим получать письма от наших слушателей.
Гидеон: И после этого наш разговор с C начнется сразу после этого перерыва.
[Музыка]
Гидеон: Хорошо. Ну, c, художник, также известный как Grimes, добро пожаловать в Have a Nice Future.
Grimes: Да, спасибо за приглашение.
Лорен: У вас хорошее будущее?
Grimes: У меня лично достаточно хорошее будущее. Я не уверен, что у всех будет хорошее будущее, и мне от этого плохо, но лично у меня все идет хорошо.
Лорен: Что вы имеете в виду?
Grimes: Я думаю, люди очень напряжены, и не без оснований, но я довольно оптимистична. Да, я даже оптимистичнее, чем была несколько лет назад.
Гидеон: Мы хотели поговорить с вами, потому что, кажется, вы, по крайней мере, в некотором смысле, воплощаете техно-оптимиста в искусстве. Когда вы услышали эту подделку песни Дрейка и The Weeknd, созданную искусственным интеллектом, ваша реакция отличалась от реакции всех остальных. Вы сказали: “Я хочу, чтобы люди делали то же самое с моей музыкой”. И вы создали сайт Elf.Tech, который позволяет людям использовать ваш голос и вашу музыку для создания своей собственной музыки, сгенерированной искусственным интеллектом. Откуда у вас появился такой инстинкт — броситься в эту страшную новинку?
Grimes: Я думаю, есть несколько причин. Одна из причин, по которой я не чувствовала сумасшедшего беспокойства, заключается в том, что музыкальная индустрия слишком, я бы сказала, патологически склонна к судебным разбирательствам. Так что я подумала, что это на самом деле не угроза для людей, потому что власть не позволит этому стать настолько разрушительной силой. Мне всегда не нравилось, насколько склонна к судебным разбирательствам музыкальная индустрия. Это всегда было одним из вещей, которые я больше всего ненавижу в ней, но я думаю, что это очень хорошо для искусственного интеллекта, потому что я думаю, что это замедлит использование ИИ, особенно в создании музыки. Это своего рода идеальная отрасль для проведения исследований, потому что у нас будет больше времени, чем у других.
Лорен: Вы, должно быть, задумывались о применении искусственного интеллекта в музыке задолго до того, как возникло внимание к мэшапу Дрейка и The Weeknd, верно? Сколько времени вы думали об этом?
Grimes: О, мы попытались сделать это, наверное, в 2019 году или что-то в этом роде. Технология просто не была доступна, но мы всегда хотели сделать Grimes доступным для всех. Просто раньше технически это было невозможно, но мы активно пытались разобраться в этом уже давно.
Лорен: Я думаю, что существует представление о том, что создание музыки с использованием искусственного интеллекта не требует особых художественных навыков. Люди думают, что это, например, как DALL-E, где вы просто вводите подсказку, и затем появляется роботизированная музыка вроде “бип-боп-боп”, и вуаля, у вас есть фальшивая песня Grimes. Как это на самом деле работает?
Grimes: Да. Одна из важных вещей, о которых я очень заботлюсь, это то, что я думаю, что нам, людям, нужно работать, нужно ставить перед собой задачи. Мы не учимся, если не делаем этого. Я как-то против чисто генеративного искусственного интеллекта. Может быть, в этом есть некоторая польза, но я думаю, что мы должны очень внимательно об этом подумать. Но вот как это работает: это больше похоже на синтезатор. Если у вас есть вокальная дорожка, вы можете изменить тембр. Так что она использует тембр моего голоса вместо вашего. Вы можете взять любой а капелла и добавить вокал Grimes. Но способ, которым это работает, заключается в том, что люди все еще пишут, производят и даже исполняют эти песни. Они просто меняют свой голос на мой голос.
Лорен: Что больше всего удивило вас в том, что было сделано с использованием искусственного интеллекта Grimes?
Граймс: Есть пара песен, которые я очень, очень хотел бы создать сам. И именно они меня больше всего удивили. Я просто подумал, что это такое странное чувство. Я долгое время говорил о том, что хочу создать что-то вроде викингской техно музыки, эфирного викингского техно, и лично я попытался это сделать несколько раз, но безуспешно.
Гидеон: Эфирное викингское техно. Я хочу это услышать сейчас.
[Смех]
Лорен: Да. Есть ли такая категория на Spotify?
Граймс: Да, нет. Но это было так странно, потому что это было просто создано. Люди, которые его создали, обладают определенными навыками как в техно-продакшн, так и в пении. Девушка, которая исполнила его, очевидно обладает неким тренированным вокалом, в стиле кельтской викингской музыки, которым я не обладаю. И они сделали что-то такое, что я подумал: “О боже, как бы я хотел, чтобы я сделал это”. Но в то же время я понял, что причина, почему это так здорово, заключается в том, что для того, чтобы создать такую музыку, мне пришлось бы изучить и освоить множество вещей, которыми я не владею. Это меня просто поразило. Я был очень тронут этим. Это было как будто я гордился своим ребенком или что-то в этом роде, когда он занимается семейным бизнесом. Было интересно увидеть, как кто-то сделал лучшую версию того, к чему я стремился.
Гидеон: Думаете ли вы, что Elf.Tech – это то, что будут использовать другие артисты, или, знаете, что-то подобное этой идее лицензирования своего голоса и своих дорожек публике? Или это просто единоразовый трюк, который вы сделали, потому что вы были первым? Потому что, думаю, я задаю этот вопрос, потому что, кажется, будет ограниченный спрос на то, что по сути является музыкальной фантастикой. И я не знаю, сколько артистов захотят сделать это или сколько слушателей захотят создавать и слушать такую музыку, но я могу ошибаться.
Граймс: Думаю, это сложно сказать. Я думаю, что если бы Дрейк или The Weeknd сделали это, то это имело бы больше смысла, чем когда я сделала это, потому что, если бы кто-то написал настоящий хит, это было бы более значимо. Я любопытно жду. Мы еще не начали активно продвигать фанатский контент, мы только его организуем и сортируем. Поэтому я интересуюсь, что произойдет, когда мы начнем активный процесс продвижения, потому что некоторые вещи очень хороши.
Лорен: Не чувствуете ли вы угрозы? Почему вам не кажется угрожающим тот факт, что кто-то создает искусство, используя ваш голос, которое вы еще не создали?
Граймс: Я не знаю, хочу ли я продолжать заниматься музыкой настолько много. Не знаю, следите ли вы за всей историей Grimes, но…
Лорен: Да.
[Смех]
Граймс: Я являюсь очень контроверсальной фигурой в интернете, и я действительно хотела бы быть, вероятно, менее известной. Я хочу больше заниматься искусством в рамках сценического искусства и технической стороны вещей. И, знаете, Grimes всегда была больше о сценическом искусстве, больше о взаимодействии с технологией, чем просто о веселых песнях. Всегда было важно показать, какие возможности дает технология и что я могу сделать с ее помощью. Моя личность не связана с Grimes как музыкальным артистом. Я думаю, что моя личность больше связана с тем, что Grimes представляет в сценическом искусстве. И я…
Лорен: Кажется, ты находишься в стадии переосмысления.
Граймс: Да, как будто я, я, я, я, я заинтересована в том, чтобы быть менее известной. Меня интересует создание более сложного искусства для более узкой аудитории, которая более заинтересована в философских аспектах и более сложном искусстве, которое, возможно, имеет меньшую популярность. Я просто хочу делать то, что ещё не было сделано, больше, чем хочу иметь хиты.
Гидеон: Давай поговорим немного больше о более широкой роли искусственного интеллекта в искусстве. Так, когда ты говорила с нашим коллегой Стивеном Леви, который беседовал с тобой для журнала, одно из твоих замечаний было: “Что меня впечатляет в искусственном интеллекте, это то, что он действительно меняет представление о том, что такое художник, что такое творчество и что такое музыка. Для меня искусство является фундаментальной частью человеческого опыта.” Но в то же время ты также сказала, что ты хочешь быть, я думаю, “самовоспроизводящимся” художником, воспроизведенным искусственным интеллектом, и что ты думаешь, что искусственный интеллект может заменить человеческих художников. Так вот, как ты относишься к этому, какова связь между искусственным интеллектом и человеческим творцом?
Граймс: Я думаю, многие люди считают, что здесь есть только два варианта: да или нет, искусственный интеллект заменяет всех художников или нет. Часть того, чем я занимаюсь, это не обязательно, как будто подходить к этому аморально, но скорее как эксперимент. Где это разрушительно? Где это положительно? Я считаю, что одна из самых больших опасностей искусственного интеллекта сейчас заключается в том, что я меньше беспокоюсь о том, что суперинтеллект искусственного интеллекта захватит мир, чем о том, что LLM (Глубокая Модель Мозга) фактически полностью отберет у всех желание учиться писать, и наша связь с языком будет навсегда повреждена.
Гидеон: Да. Мы тоже больше беспокоимся об этом.
Граймс: Да. И, знаешь, то, как люди, например, взламывали ранние LLM и заставляли их делать плохие или опасные вещи, чтобы мы могли понять, где нужны ограничения и безопасность —
Лорен: Мм-хм.
Граймс: Я хочу попробовать сделать опасные вещи в искусстве и увидеть, где это действительно вредно.
Гидеон: Например, что было бы опасным в искусстве?
Граймс: Я думаю, что полностью генеративная музыка может быть действительно плохой. Она также может быть действительно хорошей. Но, например, я хочу, чтобы прошло время, прежде чем мы просто выпустим всю эту генеративную художественную продукцию. Если у тебя есть кнопка, где ты можешь нажать, и оно сделает песню в стиле “Midjourney”. Оно будет обучено на всю музыку, когда-либо созданную, и просто создаст лучшую музыку, которую ты когда-либо слышал. На каком этапе мы просто полностью позоримся как вид? Мне кажется, знаешь, искусственный интеллект решит некоторые аспекты науки и медицины, которые займут нам вечность или мы вообще не сможем решить, или это просто огромные объемы обработки данных, которые займут людям годы и годы, если они вообще смогут это сделать. Это имеет смысл для меня. Фундаментальная замена художников? Это кажется чем-то, где просто спрашиваешь “почему?”.
Лорен: Мм.
Граймс: Я считаю, что важно искать пределы творчества. Я не говорю, что мы не должны создавать эти инструменты, но я говорю, что, возможно, эти инструменты должны находиться в музеях, или, возможно, они должны создавать только музыку низкого качества, чтобы нам все равно нужно было уметь создавать музыку. Нам все равно нужно иметь свободу выбора в этом процессе. Мы можем создать что-то и получить интересные идеи, но, например, если ты хочешь официально выпустить это, тебе все равно нужно вернуться и, как будто, создать это заново.
Лорен: Кажется, у тебя действительно есть моральные озабоченности на этот счет. Как ты сказала, ты не подходишь к этому морально, ты подходишь к этому экспериментально. Ты несколько раз упомянула слово “напряжение” в начале этого подкаста, это сразу бросилось мне в глаза. Это не значит, что ты напряжена, но люди напряжены из-за технологий и их последствий, и ты чувствуешь довольно сильно, что если у нас будет полностью искусственно созданная музыка, это будет плохо. Или если дети не будут учиться писать, потому что LLM будут делать всю работу, это будет плохо. Я имею в виду, это придает моральную ценность этой технологии, верно? И это кажется довольно важным для тебя в процессе исследования.
Граймс: Итак, хорошо. Итак, вот сложный момент. Я думаю, что неправильно не экспериментировать и не пробовать, но, да, я имею в виду, что технология должна существовать, но, может быть, она не должна быть чем-то, что можно просто взять домой. Понимаешь, о чем я? Я просто считаю, что должны быть ограничения на то, как это используется. Я не знаю, должны ли LLM-ы быть доступными детям. Или, может быть, у нас есть LLM-ы, но я не уверена, что мы должны делать LLM-ы, которые будут как Шекспир. Вот, большая дискуссия, которую я всё время веду, потому что у меня есть друг, который работает над созданием самого великого писателя, и я говорю ему: зачем тебе создавать самого великого писателя? Зачем мы хотим…
Лорен: Ты имеешь в виду самого великого писателя LLM, ты имеешь в виду модель?
Граймс: Да, да. Зачем, зачем мы хотим создать, зачем мы хотим создать Шекспира в 10 раз лучше? Зачем мы хотим лишить людей этого? Особенно потому, что я считаю, что язык, конкретно язык, мы совместно эволюционировали с ним. Язык – это нечто совершенно иное, чем наука. Язык – это часть нас. Нам нужен язык для выживания. Моя любимая метафора – это наши митохондрии. Митохондрии не являются частью нас. Они не разделяют нашу ДНК, но это наше… у нас симбиотические отношения с ними. Они живут в наших телах и нам они нужны для выживания. И язык – это что-то похожее, и я просто считаю, что прежде чем мы фундаментально изменяем наше отношение к тому, что на самом деле делает нас людьми, мы должны провести больше исследований, сделать тесты. Мы должны очень, очень, очень, очень внимательно подумать об этом.
Лорен: Я хочу вернуться к тому, что произошло вскоре после запуска Elf.Tech. Изначально вы не ограничивали, что люди могут создавать с помощью ваших материалов, но вскоре вы были вынуждены разместить отказ от токсичных текстов. Я имею в виду, вы фактически обратились с просьбой о приличии в интернете. Нет нацистских гимнов. Вы отмечали, если это не шутка, что вы действительно просите людей не быть придурками. Какую ответственность вы считаете, что вы несете, пытаясь остановить их, как человек, создавший платформу, и где, по вашему мнению, должна быть проведена граница, знаете, в отношении людей, использующих или потенциально злоупотребляющих чем-то вроде платформы по генерации музыки?
Граймс: Я думаю, что здесь дело больше в эксперименте. На самом деле, я считаю, что deepfake-ы, возможно, должны быть незаконными. На самом деле, я думаю, что нам они просто не нужны. Я не вижу огромных преимуществ, но я вижу много недостатков в deepfake-ах в целом – визуальных, звуковых, в общем и целом. Они могут вызвать много беспокойства – политического беспокойства.
Лорен: То есть вы занимаете жесткую позицию. Вы говорите, что deepfake-ы просто не должны быть законными. Их не должно быть разрешено.
Граймс: Я не совсем уверена. Я просто считаю, что стоит обдумать. Или, например, это должно быть очень сфокусировано на согласии. Мне нравится идея, знаете, потенциально создания LLM, обученного всем, что Аристотель когда-либо написал, и, знаете, если бы мне было 18 и я могла просто сидеть и задавать вопросы Аристотелю часами, это могло бы быть действительно хорошо. Я не уверена, можно ли это назвать deepfake-ом на данном этапе, но если у вас есть LLM, обученный всеми великими мыслителями всех времен, и, знаете, это персонализированный преподаватель, которого у вас есть дома, и вместо обычной школьной системы вы учите онлайн, и ваш учитель – Лейбниц и Ницше и, мать его, все великие умы всех времен.
Гидеон: Мы записываем, каких философов вы упоминали, просто так…
[Смех]
Граймс: Мне кажется, есть потенциал для огромных преимуществ. Представьте себе, каждый ребенок мог бы иметь доступ к самому великому учителю. И, знаете, я считаю, что есть огромный потенциал для образования с помощью ИИ, который действительно, действительно, действительно крут.
Лорен: В идеальном мире, какая бы эта школа выглядела? Какой фокус?
Граймс: Я думаю, главным образом о создании сообщества. И создание социальной сети для наших детей, которая была бы действительно позитивной, с семьями, думающими по-разному. Мне было очень трудно, пока я не начала находить другие семьи с родителями, которые больше похожи на меня. Чувствую, что первый год после рождения ребенка был одним из самых трудных и неприятных лет в моей жизни. И когда я начала настояще создавать дружеские связи и находить родителей, с которыми действительно можем пообщаться и понимать друг друга, стало очевидно, что это должно быть коммунальное, племенное явление. Думаю, что с бумерами произошло что-то очень интересное, когда, во многом, они имели необходимый перерыв от культуры до этого, знаете, сексуальная революция и все то, что произошло, и много вещей, связанных с прошлым, где многие люди думали, да, так всегда было в обществе, но нам нужно изменить это. Нам нужно изменить отношение к расе. Нам нужно изменить отношение к гендеру. Мы должны просто изменить много фундаментальных вещей. Но во многих отношениях, я думаю, мы потеряли много культуры, с которой все могли бы согласиться. И культура, которая была раньше, не давала места всем, поэтому понятно, что люди имели с этим проблемы, но я думаю, что одно из самых важных вещей, которые мы можем сделать сейчас, это решить создать новую культуру. После того, как мы, как бы, разрушили все и разобрали все и практически переоценили каждый аспект нашего подхода к морали, образованию и буквально ко всему, мы не можем согласовать искусственный интеллект, пока не согласуемся сами с собой, и мы совсем не согласованы. Люди сейчас совсем не согласованы.
Гидеон: Я слышу, что вы двигаетесь в широком политическом пространстве. Я слышу, как вы говорите, как кто-то, кто является частью и левых, и правых политических группировок. Вы знаете, очевидно, многие из людей, с которыми вы общаетесь в Силиконовой долине или рядом с Илоном, являются либертарианцами или консерваторами, и также есть много прогрессивных людей, и, полагаю, они из тех самых кругов, в которых вы обычно находитесь. Так что я правильно понимаю, что я вижу попытку молодежи соединить разные политические взгляды и думать о том, как они могут быть объединены?
Граймс: Да. Я действительно думаю, что одна из наших самых больших проблем сейчас – это поляризация. Я отказываюсь быть левым или правым. Я боюсь, что мы делаем с молодыми мужчинами и дискурсом вокруг мужчин прямо сейчас.
Лорен: Что именно вас пугает?
Граймс: Есть много проблем с токсичностью мужественности, но, как будто, мы просто говорим мужчинам, что они злые за то, что они не могут контролировать – тестостерон, это как безумное военное наркотическое средство. Почему не может быть политической платформы, которая бы создавала пространство и время для мужественности, для традиционной мужественности, и поощряла ее становиться лучше, конструктивным образом, а не разрушать ее, и при этом все равно заботилась о правах женщин, доступе к аборту и правах трансгендерных людей. Почему все это должно быть в противоречии?
Лорен: Как вы думаете, каким эффективным способом это можно сделать?
Граймс: Я думаю, для меня всегда важнее использовать морковку, а не палку. Что я хотела бы видеть, это празднование хороших сторон мужественности. Как создать дискурс, который поощряет мужчин стараться и быть рыцарями? И как романтизировать определенный тип мужественности, который очень уважает женщин, поддерживает дисциплину и, я не знаю, все то, над чем все смеются, но…
Гидеон: Я думаю, я понимаю, что вы пытаетесь сказать. Получается, что вы говорите, что стандартный способ критики токсичной мужественности заключается в попытке разрушить саму мужественность. А вместо этого…
Граймс: Я думаю, что это то, что происходит слишком часто, что в наших попытках избавиться от всех разрушительных вещей мы разрушаем мужественность в целом.
Лорен: Может мы проведем быструю серию вопросов?
Гидеон: Конечно, я начну. Что не дает вам спать по ночам?
Граймс: У нас кризис в образовании вообще, в глобальном смысле.
Гидеон: М-м.
Граймс: Почти все, что связано с воспитанием детей.
Гидеон: Что вас оптимистичным делает?
Граймс: Молодые люди, дети. Я вижу много вещей о поколении Z, которые пугают и травмируют, но каждый представитель поколения Z, которого я лично знаю, я просто восхищаюсь: «Вау, охренеть, ты такой крутой. Боже мой. И просветленный». Я имею в виду, мои дети, понимаешь, люди на самом деле рождаются очень замечательными. Мы просто испорченяем себя, но природное состояние человека, как я считаю, довольно прекрасное.
Лорен: Ну, Граймс, это был очень широкий и интересный разговор. Спасибо.
Гидеон: Большое спасибо, что присоединились к нам.
Граймс: Да. Спасибо вам за то, что уделили время. Очень ценю.
[Музыка]
Гидеон: Лорен, разговор с Граймс вызвал у меня определенные ощущения. Я не знаю, чего именно я ожидал, но, кажется, я ожидал чего-то вроде стремительного перехода в будущее, полного принятия искусственного интеллекта во всех его формах, и то, что меня поразило, это то, что она выразила довольно тонкую мысль о том, для чего мы должны и не должны использовать искусственный интеллект.
Лорен: Я думаю, что когда ты интервьюируешь – давайте называть ее знаменитостью, потому что она знаменитость – есть некоторая опасность, и, возможно, это так же относится к интервью с высокопоставленным техническим руководителем, в том, чтобы относиться к ним как к оракулу. Как будто все, что они говорят, должно стать будущим искусственного интеллекта. И я думаю, что этот разговор подчеркнул для меня то, что она разбирается в этом пока еще так же, как и мы все. Кажется обнадеживающим то, что человек, который стоял у истоков движения “если ты не можешь победить их, присоединяйся к ним” в сфере музыки с использованием искусственного интеллекта, также немного смущен тем, куда это может привести. Она все еще оптимистична, но у нее есть реальные опасения, хотя кажется, что ее опасения связаны не столько с музыкой, потому что она некоторым образом переосмысливает себя вне музыки, она более обеспокоена образованием в широком смысле и в смысле образования в классе.
Гидеон: Связь, которую я увидел между этими двумя вещами, заключается в том, что она предупреждала о риске того, что большие языковые модели могут просто сделать нас глупыми, потому что, будь то создание музыки с нуля или упрощение процесса написания, слишком легко полагаться на них, опираться на них в работе, для которой раньше требовались навыки. И поэтому в образовании она говорила, что хочет, чтобы ее ребенок мог читать, писать и учиться использовать язык таким образом, каким мы все, до этого момента, должны были его использовать, потому что иначе мы просто не оборудованы достаточно для ориентации в мире.
Лорен: Интересно, потому что когда она говорила о будущем образования, тогда она начала немного противоречить сама себе. И, чтобы быть справедливым, это действительно сложные вопросы, над которыми многие из нас пытаются разобраться. Но просто в качестве примера, она спросила: «Зачем нам нужен искусственный интеллект, который будет писать стихи Шекспира? Зачем нам нужна большая языковая модель, которая будет лучшим писателем в мире?» Но затем, в другой части разговора, она упомянула о наличии искусственного интеллекта Ницше или Ньютона в классах для обучения детей.
Гидеон: Я не увидел противоречия там, потому что я подумал, что она говорила о том, что мы не хотим создавать искусственный интеллект, который создает идеальные произведения драмы и поэзии, потому что тогда мы действительно лишаем себя всего человеческого творчества. Но идея взаимодействия с искусственным интеллектом как с учебным инструментом на самом деле очень отличается, и мне нравится идея иметь что-то, что достаточно хорошо обучено, чтобы проводить с тобой Сократический диалог и заставлять тебя, будучи молодым человеком, проверять свои предположения, задавать вопросы о том, что ты сказал, делать ту практику, которую, на самом деле, учителя в основном не успевают проводить с детьми из-за больших классов. Это очень, очень отличается от того, чтобы просить кого-то писать лучше, чем Шекспир, или сотворять лучшие песни, чем Боб Дилан.
Lauren: Я думаю, что некоторые из этих мыслей вызывают во мне ощущение того, что я с нетерпением жду неизбежного следующего этапа нашего разговора об искусственном интеллекте, где мы больше не будем бесконечно говорить о LLM-ах, потому что тогда LLM-ы станут лишь основной технологией, частью искусственного интеллекта, и мы будем говорить о таких темах, как искусство, образование, авторское право, которые, на мой взгляд, в настоящее время являются более важными вопросами.
Gideon: Я думаю, что она делает интересные различия между использованием LLM-ов, вместо того чтобы говорить, что LLM-ы хорошие или LLM-ы плохие, но похоже, она также борется, чтобы понять, каковы должны быть правила. Я не знаю ответа на этот вопрос. Я не уверен, что мы можем создать правила. Это часть сложности здесь.
Lauren: Верно. И это также относится к модерации контента, потому что, знаете, в некотором смысле ее платформа, Elf.Tech, решает вопрос происхождения, верно? Это идея понимания, откуда материал берется, когда он используется в искусстве, созданном с помощью искусственного интеллекта. Но идея того, что кто-то может взять эти треки и использовать ее голос, чтобы создать нацистский гимн, и вопрос о том, кто в конечном итоге несет ответственность за модерацию этого, до сих пор остается без ответа.
Gideon: И она не дала на это вопрос ответ, когда вы пытались ее спросить.
Lauren: Нет. И мое первое впечатление говорит мне, что она частично несет ответственность за это. Но если кто-то делится этим треком на YouTube, то это становится проблемой YouTube? И является ли ее платформа просто инструментом, где он был создан? И можно ли действительно возложить ответственность на инструмент? Это действительно сложный вопрос. И да, она по-настоящему не кажется имеющей ответ, знаете. И поэтому я вижу, что ей трудно как собственно определиться, кем она хочет быть в интернете, и хочет ли она вообще быть такой активной в интернете, но также и когда она выставляет искусство в мир, какие границы существуют вокруг этого искусства.
Gideon: Она также сказала: “Я действительно думаю, что deepfake-ы, возможно, должны быть запрещены.” А потом она, кажется, отозвалась от этого. Здесь вопрос очень-очень размытый. Что вы думаете, должны ли deepfake-ы быть запрещены?
Lauren: Это действительно открыло мне глаза на то, почему мы хотим deepfake-ы в обществе? Как и любая технология, она может использоваться в качестве инструмента для добра, но, как правило, когда я думаю о чем-то вроде видео с Нэнси Пелоси, где ее речь замедлена, чтобы она звучала пьяной. Мы живем в очень заряженную политическую эпоху в настоящее время, и deepfake-ы безусловно будут злоупотребляться. И когда она сказала это, я подумала, да. Может быть, мы должны занять более жесткую позицию по отношению к deepfake-ам?
Gideon: Я не думаю, что мы должны. Вот в чем и проблема: как и с многими другими технологиями, как только вы пытаетесь запретить саму технологию или использование такой технологии, как deepfake-ы, вы сталкиваетесь с бесконечными граничными случаями, где запрет на конкретную цель кажется ненужно цензурным. Так что я не уверен, что можно провести четкие границы, что разрешено, а что запрещено, ни в отношении технологии, ни даже в отношении конкретного применения этой технологии.
Lauren: Так что, возможно, нам стоит поговорить о маскулинности. Что-то, о чем я не думала, что буду говорить в подкасте Have a Nice Future, но вот мы. Вы задали ей довольно глубокий вопрос о ее политических убеждениях и о людях, с которыми она общается, и о том, как кажется, что она пытается проложить себе путь. И тогда она начала говорить о маскулинности и о том, что она, по сути, беспокоится о мужчинах. Как вы восприняли ее ответ на ваш вопрос?
Gideon: Мне показалось интересным, что она выбрала маскулинность в качестве примера, чтобы объяснить, почему она не идентифицируется ни с левыми, ни с правыми. И я согласен с тем, что она говорит. Недавно я прочитал статью в The Washington Post, автором которой является Кристин Эмба, где она говорит о том, что у молодых мужчин нет хороших маскулинных образцов. В результате правые политики, такие как Джордан Питерсон, занимают эту нишу и доминируют в дискуссии о том, каким должно быть мужество. И это подогревает эти крайние дебаты, эти экстремальные культурные войны. И когда я об этом подумал, мне пришло в голову, что, как гей, у меня есть намного лучшие образцы маскулинности для геев, которые не токсичны. И я думаю, что это связано с тем, что в гей-сообществе существует традиция межпоколенческого наставничества и отношений, которые дают молодым людям пример того, как быть старшим мужчиной, ведущим себя достойным образом.
Лорен: Мне показалось очень заметным, что она подняла темы мужской токсичности и прав мужчин, когда вы спросили её о политике, потому что выбор этой темы сам по себе является политическим. Это такая молния-палка. Это действительно заставило меня пожелать быть мухой на стене в её разговорах об этом с, скажем, Илоном Маском.
Гидеон: И хотя мы не спрашивали её о её отношениях с Илоном Маском в этом интервью, Стивен Леви спросил об этом в интервью, которое опубликовано на ENBLE.com на этой неделе, и вы можете прочитать об этом там.
Лорен: Итак, Гидеон, ты думаешь, что ты начнешь слушать больше эфирной викингской техно-музыки?
Гидеон: Я хочу знать, что такое эфирная викингская техно-музыка, но это заставило меня подумать о Синеад О’Коннор, и в последнее время я слушаю больше Синеад О’Коннор.
Лорен: Как это заставило вас подумать о Синеад О’Коннор?
Гидеон: Потому что я думаю, что это была эфирная часть. В её голосе было что-то такое, что… проникает сквозь туман и заставляет меня думать о грустных и далеких землях. И это, возможно, то, что… я не знаю, что такое эфирная викингская техно-музыка. Может быть, мне стоит найти это в Spotify.
Лорен: Мой другой со-ведущий подкаста, Майкл, порекомендовал мне шведскую психоделическую поп-музыку, которую я начала слушать на этой неделе. Так что я еще не совсем перешла на эфирную викингскую техно-музыку, но я двигаюсь в этом направлении. Я уверена, что алгоритмы скоро начнут рекомендовать её мне.
Гидеон: Хорошо, когда ты найдешь что-то хорошее, дай мне знать, что это.
Лорен: Ну, когда мы найдем что-то хорошее, мы, наверное, должны рассказать об этом c.
Гидеон: Ах, конечно. Правильно. Она сказала, что ищет это.
Лорен: Может быть, это даже будет её.
Гидеон: Это наша сегодняшняя передача. Спасибо за прослушивание. Если вы хотите услышать больше от c или Граймс, вы можете посмотреть её интервью с Стивеном Леви онлайн на ENBLE.com.
Лорен: “Have a Nice Future” ведет Лорен Гуд.
Гидеон: И я, Гидеон Личфилд. Если вам нравится эта передача, вы должны сказать нам, оставить оценку и отзыв, где бы вы ни слушали свои подкасты, и не забудьте подписаться, чтобы получать новые эпизоды каждую неделю.
Лорен: Вы также можете написать нам по адресу [email protected].
Гидеон: “Have a Nice Future” – это производство Condé Nast Entertainment. Шоу производит Даниэль Хьюитт из Prologue Projects. Нашим помощником продюсером является Арлин Аревело.
Лорен: Мы будем здесь в следующую среду, а до тех пор желаю вам хорошего будущего.
Направление движения: Куэнтон Стаки; ИИ фоны: Сэм Кэннон; дизайн освещения: Фрэнк Риос; помощник освещения: Джек Даффи; цифровая технология: Логан Бингам; помощник режиссера: Боббин Сингх; дизайн продукции: Уэсли Гудрич; стилист: Тернер/The Wall Group; помощник стилиста: Джои Сигала; волосы: Престон Вада/Rare Creatives; помощник по волосам: Эми Руис; SFX MUA: Малина Стернс; помощник SFX MUA: Саша Глассер; MUA: Александра Френч/Forward Artists; помощник MUA: Кейли Рашель Дэвис; ногти: Стефани Стоун/Forward Artists; XR Studios; SN37.*
Граймс: топ и брюки от Sami Miro Vintage.
