В ожидании гомункула

 

Наш постоянный автор рубрики “Философия нейронаук” Дмитрий Филиппов написал рецензию на книгу “Что мы думаем о машинах, которые думают: Ведущие мировые ученые об искусственном интеллекте”, отрывок из которой мы уже публиковали ранее. В статье рассуждается о важнейших характеристиках человеческого сознания и перспективах искусственного интеллекта стать его лучшей копией (или не стать). 

 

Образу искусственного интеллекта (ИИ) в поп-культуре свойственна зловещая загадочность. В нем мерещатся угрозы и неописуемые осложнения, сделающие пребывание человека в этом мире кошмарным повторением антиутопий. Вызывая на разговор о такой мрачной поп-культурной фантазии, интеллектуалов приглашают поучаствовать в игре, придуманной довольно поверхностными умами. Поэтому в большинстве статей этой книги чувствуется характерная интонация эксперта, которому предложили прокомментировать общераспространенную глупость. В особенности громко звучит эта интонация в текстах, чьими авторами являются люди, наиболее оптимистично настроенные в отношении ИИ – физики. В их представлении тема ИИ никак не связана с популярными стереотипами, тем сложнее им давать отзыв на концепцию страшного, человекоубийственного ИИ, принятую у простонародья.

 

Страшилка о “восстании машин” существует не потому что люди проникнули в сокровенную суть новых технологий и увидели там зарницы Апокалипсиса. Причина в том, что люди слишком высоко оценивают самих себя, заранее готовясь к роли святых жертв бездушных технологий. Как будто с человеческой иррациональностью, тягой к хаосу и насилию уже покончено, и единственным источником глобальных угроз являются слишком быстро умнеющие компьютеры, которые в какой-то момент пойдут войной на род человеческий. В реальности нет никаких признаков того, что средний человек стал безупречно здравомыслящим существом. Невыдуманные угрозы для мира еще долго будут исходить исключительно от людей, а не от смиренных роботов.

 

“Большинство вариаций на тему воображаемого владычества машин проецирует на них человеческий страх перед злом и жестокостью. Машины просто выступают в качестве символа извечного неконтролируемого стремления к самосовершенствованию, усилению и неограниченному развитию” (С. 404). Это чем-то похоже на инстинктивное отторжение ницщеанского “сверхчеловека” – гордеца, который из-за уверенности в своем абсолютном совершенстве никого не любит и свысока насмехается над людскими слабостями. Реальные люди, ведущие себя таким образом, отталкивающе неприятны. Можно представить, насколько более сильные негативные эмоции вызовет не мнимое, а настоящее совершенство, соединенное с презрительным отношением к человеческой расе. Однако это всего лишь предубеждение и перенос человеческих проблем на роботов. “Наше воображение проецирует драматургию господства приматов на искусственные интеллекты – драматургию, чуждую их природе” (С. 455).

 

***

 

Концепции ИИ авторов книги можно условно рассортировать по четырем группам.

 

К первой группе относятся люди, для которых ИИ – не более чем очень сильный инструмент, которым человечество вскоре начнет использовать для решения своих ежедневных, рутинных задач. В такой концепции ИИ мало интригующего. Где-то ближе к последней четверти книги приходит очередь высказаться инженеру, который, не отвлекаясь на философские рефлексии, напоминает, что вообще-то ИИ в том виде, в котором он доступен нашему представлению сейчас – это не более чем “стандартный алгоритм современной статистики” (С. 433). В будущем алгоритмы будут выполняться на очень быстрых компьютерах. Поиск по базе данных будет производиться с умопомрачительной скоростью, но суть процесса останется прежней. “Сами алгоритмы состоят в основном из большого числа операций сложения и умножения, а значит, маловероятно, что они в какой-то момент неожиданно проснутся и захватят мир” (С. 434).

 

Ошибаются те, кто, как некоторые авторы книги, считают, что ИИ будет непременно обладать сознанием. Искусственный интеллект – это не то же самое, что искусственный субъективный опыт. В противном случае надо признать, что у современных форм ИИ, вроде поисковой системы Яндекс, есть субъектность и можно говорить о феноменологии Яндекса и Гугла. Если Яндекс не достаточно мощная система для того, чтобы считаться ИИ, то где тогда грань, перейдя которую компьютер обретает сознание?

 

Вопрос о сознании компьютера не возникает, если договориться, что ИИ – это всего лишь сверхбыстрая система обработки статистических таблиц.

 

***

 

Второй тип представлений об ИИ концентрируется вокруг идеи о строительстве искусственного аналога человеческих существ. Удивительно, но в книге ни разу не делается отсылок к средневековой алхимии, учившей о возможности создать гомункула. Другой сюжет, сразу приходящий в голову, но тоже почему-то не упомянутый никем из авторов, это легенда о големе, квази-человеке, созданном каббалистами Праги для защиты евреев от антисемитов. Наконец, в вудуизме практикуется воскрешение мертвых с целью сделать из кадавра зомби, послушного колдуну раба.

 

Никто из высказывающихся специалистов не обратился к этим образам, предлагая свои мысли об ИИ, дублирующем возможности человеческого интеллекта. Гомункул, голем, вудуистский зомби – все эти и им подобные персонажи появляются в культуре задолго до изобретения компьютера. Люди давно думают о том, как сделать искусственного человека и как этот искусственный человек будет жить в обществе неискусственных людей.

 

Однако искусственный человек, возникающий в ходе алхимической мистерии или технологического процесса, – это все-таки не то же самое что Искусственный Интеллект. Искусственный человек ничем не отличается от обычного человека кроме способа вхождения в мир. Не совсем понятно, зачем его вообще создавать, если естественный способ по-прежнему сохраняет эффективность.

 

Развитие этой темы – искусственное существо с сознанием идентичным человеческому – приводит в область этики, к тем же вопросам, которые актуализируются в связи с возможностью клонирования человека. Но все же более интересным, чем этический, выглядит другой аспект проблемы. Можно ли говорить о равенстве или хотя бы подобии ИИ человеческому сознанию, если под ИИ понимать компьютерную программу?

 

Говорить о сознании робота можно только при выполнении нескольких условий. Робот должен иметь self, иначе он ничем не будет отличаться от голема или вудуистского зомби. Робот должен обладать способностью страдать. Робот должен иметь тело с системой сенсоров, которые будут связывать его разум с внешним миром.

 

Разумеется, страдание не должно быть единственным переживанием доступным роботу. Метцингер начинает свою статью с фразы “Мышление человека эффективно, поскольку мы очень много страдаем” (С. 536). Но страдание – просто наиболее яркий пример из области чувств, без которых разум бессилен. Мы не можем представить себе разум, работающий иначе, т. е. без участия чувств, если только не пытаться вообразить себе разум бестелесного существа, например, ангела. У человека, чье сознание является для нас единственным образцом функционирующего сознания (в существовании сознания у животных мы вправе сомневаться), мышление неотделимо от чувств. “Существует единый когнитивный/аффективный процесс, лежащий в основе двух параллельных и взаимодействующих процессов, которые нельзя разделить. Большая часть нашего мышления имеет такой холистический характер; наш способ обработки информации является скорее когнитивным/аффективным, нежели чисто аффективным” (С. 388).

 

Робот, у которого не будет настроения (хайдеггеровского stimmung), будет познавать мир не так, как человек. Значит, робот будет настолько другим в том, что касается когнитивных процессов, что разговоры о равенстве ИИ человеческому интеллекту или его превосходстве станут бессмысленными. Качественная инаковость машинного способа познания мира будет более выраженной, чем разница между стратегиями познания мира у человека и животного. Остается открытым вопрос, дает ли наличие аффектов преимущество человеческому типу мышления в сравнении с компьютерным. Одно преимущество очевидно – эмоции помогают экономить ресурсы и время. Благодаря эмоциям человек, как это ни удивительно, может принимать решения быстрее компьютера. “Нам не нужно разбираться в генетических рисках воспитания чужого потомства, если наш партнер нам изменяет, – мы просто чувствуем ревность. Нам не нужно оценивать вредоносное воздействие неравноценного обмена – мы просто чувствуем несправедливость и желаем отомстить” (С. 202).   

 

Разницей в типе мышления люди и роботы будут пользоваться во время гипотетической войны друг с другом и в более спокойных обстоятельствах, когда ИИ вместо того, чтобы конкурировать с человечеством, будет им пользоваться, извлекая пользу из тех возможностей, которые дает человеку эмоциональность. Как человек пользуется собакой с ее более чувствительным обонянием, так же и роботы будут восполнять недостатки своего мировосприятия с помощью людей. Такую связь людей и машин не обязательно представлять так, как это принято делать в дистопической фантастике, в виде безжалостной эксплуатации слабых людей сильными киборгами. Человечество и ИИ могут составить единый симбиотический организм, в котором сильные стороны жизни на кремниевой основе будут дополняться уникальными свойствами жизни на углеродной основе. Или же, без объединения в симбиозе, люди и роботы будут умножать формы сознательной жизни (например, через оснащение человеческого организма техническими дополнениями), превращая мир будущего в “мир многовидового интеллекта” (С. 517).

 

Если эмерджентный материализм прав, то сознание появится у робота само по себе на определенном уровне развития системы. Но человеческий мозг, продуцирующий сознание, является биологической системой. Надеяться на появление сознания у робота можно только если это будет биоробот.

 

О важности различения ИИ и моделирования человеческого мышления пишет в своей статье Деннет. ИИ будет создан как еще одно техническое усовершенствование человеческого быта. Его создание – задача для инженера. Моделирование мыслительных процессов человека – задача психолога и нейробиолога. Деннет называет особенности человеческого разума, которых будет лишен ИИ: “Склонность отвлекаться, волноваться, испытывать эмоции, переживать воспоминания и строить личные привязанности” (С. 108).

 

ИИ станет угрозой для людей, только в том случае, когда люди откажутся тратить ресурсы на создание более совершенной технологии для облегчения собственной жизни, а вместо этого возьмутся за создание биоробота, т. е. поставив практически ту же задачу, что и алхимики, синтезирующие гомункула. Невероятность такого проекта очевидна, если, конечно, отбросить красочные сценарии с участием персонажей вроде “безумного профессора”.

 

Если ИИ – это совершенная разумность без эмоций и без мотиваций, то ИИ ничем не страшнее микрокалькулятора. Но люди боятся не появления совершенной разумности, а появления нового субъекта в мировой истории, чьи желания могут противоречить желаниям людей.

 

Что касается self, то для человека ощущение собственного Я нужно, кроме всего прочего, для работы мотивационной системы. Если есть собственное Я, значит есть и собственные желания, которые, с точки зрения эволюционной биологии, нацелены на выживание. Если у компьютера появится Я, то вместе с ним возникнет и набор индивидуальных мотивов компьютера. По аналогии с углеродными формами жизни у кремниевой формы жизни доминирующим желанием, наверное, тоже будет выживание. Тогда компьютеры будут бороться с тем, что угрожает их выживанию и “сосредоточат свой гнев на компьютерной индустрии, стремясь остановить ее развитие, потому что главная угроза продолжительному существованию компьютера возникает тогда, когда более новые, более эффективные модели делают его устаревшим” (С. 94).

 

Воображая компьютер с собственным Я, мы не должны останавливаться на вопросе о том, какие желания у него появятся. Нужно пойти дальше и попытаться представить себе взаимодействие компьютеров, обладающих индивидуальностью. “Любая социальность, возникающая среди машин, будет качественно отличаться от человеческой по одной ключевой причине: они могут в буквальном смысле читать мысли друг друга” (С. 385). Интерсубъектность в мире роботов будет лишена всей той специфики, о которой говорит философская феноменология. Роботы будут получать безошибочное и исчерпывающее представление о том, каково это – быть другим роботом. Где тогда будет прятаться аутентичное self робота? Нигде, его просто не будет. “Как только ИИ проникнут в разумы друг друга, их “я” обязательно станет коллективным” (С. 386). Роботы не просто объединятся в неразрывный коллектив. Они создадут немыслимое для человека не-личное Я.

 

Телесность – еще одно условие для существования сознания. “Чтобы машины мыслили, они должны действовать. А для этого им надо иметь тела, чтобы связывать физическое и абстрактное мышление” (С. 288). Сознание человека вписано в тело, никакого другого сознания, кроме инкарнированного, мы не знаем. Опять-таки с условием, что во внимание не берутся человеческие догадки о сознании бестелесных, духовных существ, чья жизнь не интересует науку и материалистическую философию.  

 

***

 

В отдельную группу концепций можно объединить рассуждения, наделяющие ИИ качествами доброго божества. ИИ, с этой точки зрения, не адекватен человеческому разуму, он его превосходит так же, как божественная мудрость превосходит человеческий ум. ИИ станет внимательным и отзывчивым патроном человечества. В таких размышлениях чувствуется проявление древних, унаследованных от античности, представлений об идеальном единстве добродетелей: мудрости, силы и добра.

 

Но наиболее интересное и загадочное развитие событий предполагает другой, четвертый подход к ИИ. ИИ не будет равен человеческому интеллекту. Это будет новое существо с качественно иной природой, отличной от человеческой. Человек создаст не аналог собственного разума, а нечто, представляющее собой следующую ступень в эволюции живых существ. В самом деле, зачем трудиться над созданием копии того, что уже есть? “Как изобретение автомобиля не было попыткой создать точную копию лошади, так и разработка окупающихся систем искусственного интеллекта не означает создание чего-то подобного Homo sapiens” (С. 28).

 

Человек как вид не обязан быть конечной ступенью эволюции. “Что насчет длительной постчеловеческой эпохи?” (С. 32). После нас в мир придут более совершенные, в смысле более приспособленные, существа, которые будут рождены нами с помощью технологий.

 

Не станет ли рукотворный наследник человеческой цивилизации монстром, который в какой-то момент захочет истребить породивший его вид homo sapiens? Оптимисты отвергают этот вариант событий. Они видят в ИИ спасение мира людей. Весь культурный багаж человеческой расы будет сохранен ИИ в дигитализированном виде. Когда Солнце погаснет и жизнь на Земле прекратится, люди или эмигрируют в другие галактики, или вместо них это сделает ИИ, обретший ту материальную форму, которую он посчитает наиболее удобной. “Задача такой машины будет состоять не только в том, чтобы мыслить, но также и в том – и это куда важнее, – чтобы не дать угаснуть мерцающему пламени сознания, стать свидетелем Вселенной и чувствовать ее чудо” (С. 62).

 

Но сможет ли человек создать что-либо подобное – не усовершенствовать человеческий организм, включая функции мозга, а сконструировать качественно другой способ жить и сознавать? Если сможет, то это будет событие, превосходящее по значимости сотворение человека, созданного, по библейской версии, “по образу и подобию”, то есть как модифицированное повторение высшего, божественного эталона.

 

Такой вариант нелегко рассматривать всерьез. “Все, что нам известно, так это то, что люди неспособны создать по-настоящему “иное” мышление. Что бы мы ни придумали, оно будет отражать наши цели и ценности, а потому это “что-то” не сильно отклонится от человеческого мышления” (С. 120). В таком случае надо смириться с тем, что робот с ИИ при фантастическом развитии событий станет не более чем копией человека, а при реалистическом развитии событии останется техническим устройством по сути ничем не отличающимся от современного компьютера.

 

Подготовил: Филиппов Д.С.

 

Источник: Что мы думаем о машинах, которые думают: Ведущие мировые ученые об искусственном интеллекте / под ред. Джона Брокмана. М. Альпина нон-фикшн, 2017