Сверхразум: страшилки футурологов или реальное будущее искусственного интеллекта?

Основная статья: Искусственный интеллект

Отечественный читатель не избалован книгами по искусственному интеллекту, есть небольшое количество сугубо профессиональных, а среди тех, которые адресованы менее подготовленному читателю, доминируют футурологические сочинения. Стоит привести названия некоторых из них:

• «Как создать разум: секрет человеческого мышления раскрыт» Рэя Курцвейла;
• «Искусственный интеллект. Этапы. Угрозы. Стратегии» Ника Бострома;
• «Убийственные большие данные. Как математика превратилась в оружие массового поражения» Кэти О`Нил.

Книга недавно побывавшего в России Митио Каку названа менее устрашающе – «Будущее разума», но в аннотации к ней сказано что автор: «… популярно рассказывает не только об искусственном интеллекте, но и о телекинезе, экзоскелетах, управляемых мыслью, имплантации новых навыков непосредственно в мозг и других удивительных возможностях технологий». Физик в прошлом говорит о телекинезе?Как с помощью EvaProject и EvaWiki построить прозрачную бесшовную среду для успешной работы крупного холдинга

Многочисленное племя футурологов, авторов, выглядящих устрашающими для непосвященных книг-страшилок, на самом деле имеет целью делать бизнес на эпатаже, причем довольно выгодный. Например, в США их принято приглашать «на сладкое» под конец крупных корпоративных конференций, что очень хорошо оплачивается.

Мне не раз приходилось быть свидетелем выступлении такого рода пророков, даже лично общаться, например, с тем же Митио Каку, и каждый раз вспоминались рассказы О’Генри о благородных жуликах Энди Тэккере и Джеффе Питерсе, облапошивавших обывателей нехитрыми трюками. О мнимой опасности суперинтеллекта образно высказался Эндю Ын, один из наиболее признанных экспертов: «Тревога относительно опасностей со стороны AI подобна беспокойству о перенаселении Марса».

Обычно под сверхразумом (Artificial Super Intelligence, ASI) понимают такой гипотетический AI, который сможет не только воспроизводить максимум способностей человека, но и даже превзойти его

В 2021 году был издан сборник статей, подготовленный Сбербанком «Сильный искусственный интеллект: На подступах к сверхразуму». Книга невольно обращает на себя внимание претенциозным названием, из которого следует, что авторы решили построить дорогу по направлению к сильному ИИ с намерением создать в перспективе сверхразум. Книга программная, судя по тому, что труд вышел под редакцией Александра Ведяхина, первого заместителя председателя правления Сбербанка, а обращение к читателю написал сам Герман Греф, президент, председатель правления Сбербанка.

Свой путь к сверхразуму они представляют следующим образом:

Поскольку фактически на настоящий момент систем AGI (Artificial General Intelligence, общий искусственный интеллект – прим. TAdviser) не существует, для характеристики систем, разрабатываемых в рамках данной области, вводятся такие понятия, как proto-AGI и Narrow AGI. Под proto-AGI имеются в виду системы, призванные решать широкий круг задач, но все еще не способные делать это эффективно. При этом обычно подразумевается, что эти системы могут быть со временем доработаны до AGI или, по крайней мере, являются шагом на пути к нему. Термином Narrow AGI обозначаются не существующие пока системы, обладающие общим интеллектом, но демонстрирующие (сверх)человеческий уровень в одной предметной области, оставаясь существенно ниже уровня человека во всех других сферах (то есть сходные с людьми-савантами). Предполагается, что такие системы могут быть промежуточным шагом на пути к полноценному AGI.

Чтобы продолжить, уточним классификацию типов AI:

• Обычно под сверхразумом (Artificial Super Intelligence, ASI) понимают такой гипотетический AI, который сможет не только воспроизводить максимум способностей человека, но и даже превзойти его. Верящие в ASI считают, что он обретет силу проникновения в мысли и чувства человека с тем, чтобы подчинить его своей воле.
• Остающийся тоже гипотетическим сильный, или общий AI (Artificial General Intelligence, AGI) по степени разумности стоит на ступень ниже ASI, адепты этого типа AI ограничены в своих убеждениях возможностью создания машин, способных как минимум выполнять те же действия, что и человек.
• Слабый, или узкий AI (Artificial Narrow Intelligence, ANI) позволяет усмотреть в поведении машин слабые намеки на разум (поэтому его называют слабым). Он предназначен для выполнения только строго определенного узкого круга приложений (поэтому его называют узким). В случае ANI невозможно никакое неподвластное человеку автономное поведение или самостоятельное развитие. Системы, снабженные ANI, могут существовать только в той форме, в которой они были созданы человеком и даже теоретически не могут выйти из-под его контроля.

Импульс к пробуждению веры в возможность создания полноценного AGI, скорее всего, кроется в успехах ANI, достигнутых гребне нынешней, третьей волне AI. То, что удалось сделать за последние десять лет, действительно вдохновляет и раскрывает колоссальные перспективы на будущее, но при этом не дает оснований для экстраполяции достигнутого на AGI. Связь между AGI и ANI чисто терминологическая, скорее, дань традиции. Наивная в ту пору идея сверхразума родом из другого времени, она возникла более полувека назад, на подъеме первой волны AI, увы, закончившейся Зимой AI (периодом сокращения финансирования и интереса к исследованиям ИИ – прим. TAdviser).

В период третьей волны мы по инерции продолжаем называть AI не что иное, как альтернативный программированию подход к использованию компьютеров, основанный на обучении. Причем находимся еще только на начальном этапе – все нынешние компьютеры построены по фон-неймановской схеме, они задуманы как программируемые. Процессоры GPU – нынешняя рабочая лошадка машинного обучения к этой задаче не вполне соответствует, но альтернативы нет. Действующие системы являются паллиативом – они обучаемы, но реализованы программными технологиями.

Идея сверхразума возникла более полувека назад, на подъеме первой волны AI

Для AI, как и для человека есть проблема, которую условно можно назвать «Проблемой души и тела», для ее полноценного решения нужны непрограммируемые процессоры, но это дело отдаленного будущего. Будут ли это аналоговые или квантовые компьютеры, пока остается вопросом. Возможно, первые аналоговые процессоры будут встраиваться умные машины (edge AI).

Однако, даже обретя более совершенное тело, у систем с ANI есть шанс на развитие только в существующем направлении, которое можно назвать автоматизацией умственного труда, на создание все качественно новых умных помощников вплоть до коботов – роботов, сотрудничающих с человеком. На чем же можно реализовать AGI?

На фоне нынешнего процветания ANI материалов, посвященных AGI, немного. Известно единственное сообщество AGI Society^[2], но его сайт не активен с 2014 года. За все время существования AGI Society провело всего 2 конференции. Показательно — основными докладчиками на них были отличающиеся своей склонностью к преувеличению потенциала и опасностей AGI футуролог Рэй Курцвейл и философ Ник Бостром, оба авторы известных книг-страшилок.

Текущее состояние дел в области AGI представлено в обзоре «Примеры AGI остаются недостижимы» (Artificial general intelligence examples remain out of reach^[3]), опубликованном в 2021 году. Позиция автора выражена в названии, он замечает, что самым поразительным в погоне за AGI является то, что те функции, которые, казалось бы, можно было бы и отнести к AGI, успешно решаются средствами ANI.

Жаль, что автор не знал о существовании эффекта AI, он был сформулирован еще в 1970-е годы, когда AI не делился на AGI и ANI. Эффект AI обнаруживался во всех без какого-либо исключения программах, которые по замыслу авторов должны были бы демонстрировать наличие у них разума. При непредвзятом анализе в 100% случаев становилось ясно, что их поведение на самом деле псевдоразумно и имеет простое логическое объяснение. Как сказал один из виднейших специалистов в робототехнике Родни Брукс: «Магии AI нет, но есть обычные вычисления». То же самое, но более образно выражено в утверждении, известном как «теорема» Теслера: «AI – это то, что еще не было сделано» (AI is whatever hasn't been done yet.).

Надо признать, что серьезные ученые не слишком часто высказываются о перспективах AGI, поэтому актуальных данных немного. Можно вспомнить прошедшую в 2006 году юбилейную «Дартмутскую конференцию по AI: Следующие 50 лет» (Dartmouth Artificial Intelligence Conference: The Next Fifty Years), где участникам был задан вопрос: «Когда по вашему мнению будет создан AGI?». Меньшинство (18%) ответивших заявили, что это произойдет до 2056 года, оставшиеся голоса разделились поровну: 41% после 2056 года, а еще 41% – никогда.

Оценивая эти и без того скромные результаты, следует еще принять во внимание два обстоятельства: во-первых, опрос проводился 15 лет назад, еще до случившегося за последние 10 лет революционного прорыва в области AI-приложений, и, во-вторых, среди участников конференции преобладали не связанные с практикой ветераны, отдавшие свои силы тому, что называют GOFAI (Good Old-Fashioned Artificial Intelligence). Здесь идиому good old-fashioned можно перевести как «старый добрый» с обязательным оттенком иронии.

В марте 2016 Ассоциация по развитию искусственного интеллекта (Association for the Advancement of Artificial Intelligence, AAAI) провела анонимный опрос 193-х своих почетных членов. Их попросили оценить точку зрения на AGI, выраженную философом Ником Бостромом в книге «Суперинтеллект: пути, опасности стратегии» (Superintelligence: Paths, Dangers, Strategies, 2014). В ней автор утверждает, что AGI превзойдет человеческий интеллект во всем, включая научную продуктивность, общую способность к приятию решений и социальные навыки. Результат опроса был опубликован в статье с не нуждающимся в комментарии заголовком: «Нет, эксперты не думают, не думают, что суперинтеллект угрожает человечеству («No, the Experts Don’t Think Superintelligent AI is a Threat to Humanity»). Все они сошлись в том, если AGI и будет создан, то вне пределов прогнозируемого времени.

В бизнесе обещанные прежде воздушные замки уступают место проектам с конкретными и ожидаемыми результатами, что отражено в отчете Gartner «Кривая хайпа в AI» (Gartner Hype Cycle for Artificial Intelligence, 2020). В нем проявлено скептическое отношение к некоторым тематикам, внешне эффектным, но, как оказалось, лишенным практических перспектив.

Например, внедрение разрекламированных беспилотных автомобилей откладывается на 10 лет и более. Недавно Илон Маск сам признался, что он поторопился, объявив реальностью возможность создания полностью автоматического автомобиля пятого уровня. А когнитивные технологии (мыслящие системы) вообще сняты с дистанции на весь обозримый период.

Что же касается AGI, то на сей предмет в отчете сказано еще более категорично:

AGI потерял какую-либо коммерческую перспективность и предприятиям рекомендуется сосредоточить свое внимание на решениях, основанных исключительно на ANI. Gartner предостерегает: компаниям следует игнорировать любые заявления тех AI-вендоров, которые выступают с предложениями рыночных продуктов на основе AGI.

При размышлении о сборнике «Сильный искусственный интеллект: На подступах к сверхразуму» невольно приходит на память случившееся на заре AI. В 1958 году отцы-основатели AI, возглавляемые Марвином Минским и Джоном Маккарти, пообещали Пентагону создать AI в течение нескольких лет. Время для предложения было как никогда удачным: под влиянием «Момента Спутника», так назвали стресс, вызванный космическими успехами СССР, руководство США открыло несколько серьезных научно-технических программ, реально изменивших положение дел во многих областях. Это создание агентств NASA и ARPA приведшее к полетам на Луну, и разработка сети ARPAnet, прообраза интернета.

Среди тех, кто получил неограниченное финансирование, оказалась и Лаборатория AI в Массачусетском технологическом институте (MTI). Но, в отличие от других, ничего из обещанного ее руководством выполнить не удалось, идея AI оказалась несостоятельной. После критического разбора средства на эту тему выделять перестали, и наступила Первая зима AI.

Люди среднего и старшего поколения, возможно, вспомнят вышедший в 1984 году предвестника перестройки фильм Тенгиза Абуладзе «Покаяние» и фразу, прозвучавшую в конце этой картины: «Зачем нужна дорога, если она не приводит к храму?»

Примечания