Не спрашивайте глупых роботов, разрушит ли ИИ человечество
Do not ask if AI will destroy humanity.
В начале этого месяца несколько известных изданий опубликовали новости о том, что искусственный интеллект не представляет угрозы для человечества. Источником этой успокаивающей новости является группа роботов-андоидов, связанных с простыми чат-ботами.
Новости появились после панели на конференции Организации Объединенных Наций в Женеве, названной AI for Good, где несколько андроидов появились вместе со своими создателями. Репортерам было предложено задавать вопросы роботам, включая Софию, машину, созданную компанией Hanson Robotics, которая стала известна своими выступлениями в ток-шоу и, странно, получившая юридический статус человека в Саудовской Аравии.
Вопросы включали в себя, уничтожит ли искусственный интеллект человечество или украдет рабочие места. Ответы были возможны благодаря технологии чат-ботов, в некотором роде похожей на ту, которая приводит в движение ChatGPT. Но, несмотря на хорошо известные ограничения таких ботов, ответы роботов были представлены так, будто это значимые мнения автономных и интеллектуальных сущностей.
Почему это произошло? Роботы, способные визуально подражать человеческим выражениям, вызывают эмоциональную реакцию у наблюдателей, потому что мы так подготовлены к восприятию таких сигналов. Но позволение просто продвинутой кукольной игры замаскировать ограничения текущего искусственного интеллекта может запутать людей, пытающихся понять технологию или недавние проблемы, которые она может вызвать. Меня пригласили на конференцию в Женеве, и когда я увидел, что София и другие роботы указаны как “спикеры”, я потерял интерес.
Это раздражает видеть такой бред в то время, когда более доверенные эксперты предупреждают о текущих и будущих рисках, которые представляет искусственный интеллект. Алгоритмы машинного обучения уже усугубляют социальные предрассудки, распространяют дезинформацию и увеличивают власть некоторых из крупнейших корпораций и правительств мира. Ведущие эксперты по искусственному интеллекту беспокоятся, что темпы прогресса могут привести к алгоритмам, которые будет сложно контролировать уже через несколько лет.
- Почти 50 лет в войнах с шифрованием, противники шифрования до сих п...
- Протекший меморандум показывает, что TikTok осознает проблему с тру...
- Дикие ослы являются на передовой в экологическом восстановлении Укр...
Hanson Robotics, компания, создающая Софию и других реалистичных роботов, впечатляюще умела строить машины, подражающие человеческим выражениям. Несколько лет назад я посетил штаб-квартиру компании в Гонконге и встретился с основателем Дэвидом Хансоном, который ранее работал в Дисней, на завтраке. Лаборатория компании была похожа на что-то из “Западного мира” или “Бегущего по лезвию бритвы”, с выключенными роботами, смотрящими грустно вдаль, пожухлыми лицами, обвисшими на полках, и прототипами, заикавшимися одни и те же слова снова и снова в бесконечном цикле.
Фотография: Уилл НайтМы с Хансоном говорили о возможности добавления реального интеллекта в эти эмоциональные машины. Бен Гертцел, известный исследователь по искусственному интеллекту и генеральный директор SingularityNET, руководит работой по применению достижений в машинном обучении к программному обеспечению, управляющему реакцией роботов Hanson на человеческую речь.
Искусственный интеллект, лежащий в основе Софии, иногда может давать приемлемые ответы, но технология далеко не настолько продвинута, как система GPT-4, которая приводит в движение самую передовую версию ChatGPT и стоила более 100 миллионов долларов для создания. И, конечно, даже ChatGPT и другие передовые программы искусственного интеллекта не могут разумно отвечать на вопросы о будущем искусственного интеллекта. Лучше всего считать их сверхъестественно осведомленными и одаренными подражателями, которые, хотя способны на удивительно сложное рассуждение, имеют серьезные недостатки и имеют только ограниченные “знания” о мире.
Манипулирующие “интервью” Софии и ее команды в Женеве напоминают о том, как антропоморфизация систем искусственного интеллекта может вести нас в заблуждение. История искусственного интеллекта полна примеров, когда люди слишком далеко забегали вперед относительно новых достижений в этой области.
В 1958 году, на заре искусственного интеллекта, The New York Times писала о одной из первых систем машинного обучения, о примитивной искусственной нейронной сети, разработанной для ВМС США Корнельским психологом Фрэнком Розенблаттом. “ВМС представили электронный компьютер, который, как они ожидают, сможет ходить, разговаривать, видеть, писать, воспроизводить себя и осознавать свое существование”, – сообщал The Times – смелое заявление о схеме, способной научиться распознавать образцы в 400 пикселях.
Если взглянуть на освещение шахматной игры Deep Blue от IBM, чемпиона AlphaGo от DeepMind и многих других прорывов в глубоком обучении за последнее десятилетие, которые непосредственно произошли от машины Розенблатта, можно увидеть много одного и того же: люди воспринимают каждое новое достижение, как будто это знак более глубокого, более человекоподобного интеллекта.
Это не значит, что эти проекты, или даже создание Софии, не являются удивительными достижениями или потенциальными шагами к более интеллектуальным машинам. Но иметь ясное представление о возможностях систем искусственного интеллекта важно, когда речь идет о оценке прогресса этой мощной технологии. Чтобы осмыслить прогресс в области искусственного интеллекта, мы можем, по крайней мере, прекратить задавать глупые вопросы аниматронным куклам.
