Сьюзан Шнайдер
Искусственный ты. Машинный интеллект и будущее нашего разума

Биологический натурализм

Если взгляды сторонников биологического натурализма справедливы, то романтические отношения или дружба между человеком и искином, таким как Саманта в уже упоминавшемся фильме «Она», окажутся безнадежно односторонними. ИИ, возможно, будет умнее людей и даже сможет изобразить сочувствие или романтический интерес, как та же Саманта, но внутренних переживаний у него будет не больше, чем у вашего нынешнего ноутбука. Более того, мало кто из людей захочет соединиться с Самантой в облаке. Загрузка своего мозга в компьютер будет означать отказ от собственного сознания. Технологии способны на многое, и не исключено, что ваши воспоминания можно будет аккуратно и точно продублировать в облаке, но этот поток данных, лишенный внутренней жизни, уже не будет вами.

Сторонники биологического натурализма полагают, что сознание зависит от специфической химии биологических систем, что это особое свойство или характеристика, которой наши тела обладают, а машины – нет. Но такое свойство до сих пор не обнаружено, и, даже если бы оно вдруг нашлось, это не означало бы, что ИИ никогда не сможет обрести сознание. Может оказаться, что в машинах сознание просто порождается другим свойством или несколькими свойствами. Как я покажу в главе 4, чтобы сказать, обладает ли ИИ сознанием, необходимо смотреть не только на химические свойства конкретных соединений и искать ключи в поведении искина.

Другая линия аргументов тоньше, и отмахнуться от нее сложнее. Она опирается на знаменитый мысленный эксперимент под названием «Китайская комната», предложенный философом Джоном Сёрлем. Сёрль просит представить, что он заперт в комнате. В комнате есть окошко, через которое ему передают карточки со строками китайских иероглифов. Но Сёрль не знает китайского, хотя ему и дали книгу правил (на английском языке), с помощью которой он может расшифровать надпись и написать ответ. Итак, Сёрль в комнате и ему вручают карточку с посланием на китайском языке. Он сверяется со своей книгой, выписывает найденные в ней иероглифы и возвращает карточку через второе окошко в стене^[23].

Вы можете спросить: какое отношение все это имеет к ИИ? Обратите внимание, что с позиции человека вне комнаты ответы Сёрля неотличимы от ответов человека, знающего китайский язык. Однако сам он не понимает смысла того, что написал. Как компьютер, он дает ответы на вопросы, перебирая формальные символы. Комната, Сёрль и карточки вместе образуют своеобразную систему обработки информации, но сам он не понимает ни слова по-китайски. Каким же образом обработка данных в безмозглых элементах, ни один из которых не понимает языка, может породить, хотя бы в принципе, нечто столь великолепное, как понимание или переживание? По Сёрлю, этот мысленный эксперимент позволяет предположить, что, каким бы разумным ни казался компьютер, на самом деле он не мыслит и не понимает. Он всего лишь бездумно манипулирует символами.

Строго говоря, этот мысленный эксперимент служит скорее аргументом против машинного понимания, а не машинного сознания. Но Сёрль делает еще один шаг и предполагает, хотя не всегда явно говорит об этом, что если компьютер неспособен на понимание, то он не может претендовать и на сознание. Для определенности предположим, что он прав и понимание действительно тесно связано с сознанием. В конце концов, это выглядит довольно правдоподобно: если мы понимаем, то находимся в сознании; мы не только сознаем, что понимаем, но – и это важно – в целом находимся в состоянии бодрствования и осознанности.

Что, если Сёрль прав, и китайская комната не может обладать сознанием? Многие критики сосредоточиваются на принципиальном моменте рассуждений: на том, что человек, перебирающий символы в комнате, не понимает китайского языка. Для них главное не в том, понимает ли кто-нибудь в комнате китайский, а в том, понимает ли китайский система в целом: человек плюс карточки, книга, комната и т. д. Взгляд, согласно которому система как целое реально понимает происходящее и обладает сознанием, получил известность как «ответ системы»^[24].

Мне представляется, что «ответ системы» правилен в одном отношении и неправилен в другом. Верно, что по-настоящему вопрос о сознании машин состоит в том, обладает ли сознанием машина в целом, а не один ее компонент. Представьте, что вы держите чашку горячего зеленого чая. Ни одна отдельно взятая молекула в чае не является прозрачной, но в целом чай прозрачен. Прозрачность – свойство некоторых сложных систем. В том же ключе можно сказать, что ни один отдельно взятый нейрон и ни одна отдельная область мозга не реализует сама по себе тот сложный тип сознания, которым обладает личность. Сознание – свойство очень сложных систем, а не фантом внутри более крупной системы вроде Сёрля в комнате^[25].

Согласно рассуждениям Сёрля, система не понимает китайского, потому что он лично не понимает этого языка. Иными словами, целое не может обладать сознанием, поскольку сознанием не обладает какая-то его часть. Но такие рассуждения ошибочны. Мы уже привели пример системы, которая понимает, хотя часть ее этого понимания лишена: это человеческий мозг. Порядка 80 % нейронов мозга находится в мозжечке, но мы знаем, что для сознания он не нужен: люди, родившиеся без мозжечка (а такие есть), обладают сознанием. Готова спорить, что самоощущения мозжечка не существует.

Однако «ответ системы» кажется мне ошибочным вот в чем: из него следует, что китайская комната как система обладает сознанием. Невозможно представить, чтобы такая примитивная система, как китайская комната, обладала сознанием, поскольку сознающие себя системы намного сложнее. Человеческий мозг, например, включает в себя 100 млрд нейронов и более 100 трлн нейронных связей, или синапсов (кстати говоря, это в 1000 раз больше количества звезд в галактике Млечный Путь). По сравнению с невероятной сложностью человеческого мозга или даже сложностью мозга мыши китайская комната в лучшем случае детские кубики. Даже если сознание – это системное качество, не все системы им обладают. К тому же и базовая логика рассуждений Сёрля ущербна, ибо он не показал, что сложный ИИ не сможет обладать сознанием.

В целом можно сказать, что китайская комната не укрепляет позиции биологического натурализма. Но если у нас пока отсутствуют убедительные аргументы в пользу биологического натурализма, то нет и убойного аргумента против него. Как объясняется в главе 3, пока слишком рано говорить о том, возможно ли искусственное сознание. Но прежде чем я обращусь к этой теме, рассмотрим вторую сторону медали.

Технооптимизм в отношении машинного сознания

В двух словах, технооптимизм в отношении машинного сознания (или просто «технооптимизм») – это уверенность в том, что если человечество создаст развитый универсальный ИИ, то искины будут обладать сознанием. Мало того, эти искины, возможно, будут вести более сложную и богатую оттенками ментальную жизнь, чем люди^[26]. В настоящее время технооптимизм пользуется довольно большой популярностью, особенно среди трансгуманистов, части ИИ-специалистов и научных средств массовой информации. Но на мой взгляд, технооптимизму, как и биологическому натурализму, недостает теоретической поддержки. Хотя может показаться, что он имеет в своей основе определенные представления о разуме из области когнитивистики, на самом деле это не так.

Технооптимизм действительно вдохновляется когнитивистикой – междисциплинарной областью знания, изучающей мозг. Чем больше данных о мозге получают специалисты по когнитивистике, тем больше кажется, что с практической точки зрения мозг лучше всего представлять как процессор для обработки информации и что все мыслительные функции имеют вычислительный характер. Вычислительная теория разума стала в когнитивистике чем-то вроде исследовательской парадигмы. Это не означает, что мозг имеет архитектуру стандартного компьютера. Более того, конкретный вычислительный формат мозга служит темой бесконечных споров. Но в настоящее время вычислительная теория разума обрела более широкий смысл, включающий в себя алгоритмическое описание мозга и его частей. В частности, можно объяснить когнитивную или перцептивную способность, например внимание или кратковременную память, путем ее разложения на взаимодействующие друг с другом причинно связанные части, а затем описания каждой части при помощи собственного алгоритма^[27].

Сторонники вычислительной теории разума с их упором на формальное алгоритмическое описание ментальных функций склонны признавать возможность машинного сознания. Они предполагают, что другие типы субстратов тоже способны производить вычисления того рода, которыми занимается мозг. То есть они, как правило, считают мышление субстратонезависимым.

Поясню значение этого термина. Предположим, вы планируете новогодний праздник. Пригласить гостей на этот праздник и сообщить им необходимые подробности можно самыми разными способами: вы вольны сделать это лично, письмом, по телефону и т. д. Мы можем обособить носителя информации (субстрат) о празднике от самой информации о нем. В аналогичном ключе можно предположить, что сознание способно существовать на разных субстратах. Не исключено, по крайней мере в принципе, что оно присуще не только биологическому мозгу, но и системам, основанным на других материалах, таких как кремний. Это и называется «субстратонезависимостью».

Такая точка зрения позволяет принять позицию, которую я называю вычислительной теорией сознания. Эту теорию можно сформулировать следующим образом:

Вычислительная теория сознания: сознание можно объяснить с вычислительной позиции; более того, именно вычислительные характеристики системы определяют природу ее осознанных переживаний и то, имеет ли она их.

Представьте, как дельфин скользит в воде в поисках пищи. Если верить сторонникам вычислительной теории, то именно внутренние вычислительные состояния дельфина определяют характер его осознанных переживаний, таких как ощущение скольжения тела в воде и вкус добычи. Вычислительная теория сознания гласит, что если какая-то другая система S₂ (с искусственным мозгом) обладает в точности такой же вычислительной конфигурацией и состояниями, включая сигналы, поступающие в ее сенсорный аппарат, то она должна обладать сознанием так же, как сам дельфин. Чтобы это произошло, ИИ должен в сходных обстоятельствах демонстрировать те же модели поведения, что и дельфин. Более того, он должен иметь те же внутренне связанные психологические состояния, что и дельфин, включая чувственные переживания.

Назовем систему, в точности отражающую, таким образом, организацию некоторой обладающей сознанием системы, точным изоморфом (или просто изоморфом)^[28]. Если искин обладает всеми перечисленными качествами дельфина, то в соответствии с вычислительной теорией он должен обладать сознанием. В самом деле, у этого искина будут наблюдаться все те же состояния сознания, что и у оригинальной системы.

Все это хорошо и замечательно, однако не оправдывает технооптимизм в отношении искусственного сознания. Вычислительная теория сознания на удивление мало может сказать о том, будет ли ИИ, который мы, вероятнее всего, создадим, обладать сознанием, – она утверждает лишь, что если нам удастся построить изоморф биологического мозга, то он будет обладать сознанием. Она ничего не говорит о системах, которые не являются изоморфами биологического мозга.

В сущности, вычислительная теория сознания сводится к принципиальному признанию возможности машинного сознания: если бы мы могли создать точный изоморф, он обладал бы сознанием. Но даже если такая технология в принципе реализуема, это не означает, что она действительно будет когда-нибудь реализована. Например, космический корабль, проходящий сквозь кротовую нору, может выглядеть концептуально возможным (хотя это в настоящее время является предметом споров), но, однако, нельзя исключать, что его реальное создание несовместимо с законами физики. Например, не существует способа получения достаточного количества той экзотической разновидности энергии, что требуется для стабилизации кротовой норы. Или законы природы это допускают, но земляне никогда не достигнут необходимого уровня технического развития.

Философы отличают логическую, или концептуальную, возможность машинного сознания от возможностей других типов. Законная (или «номологическая») возможность требует, чтобы событие, представляющее создание чего-либо, не противоречило законам природы. В рамках номологической возможности полезно далее выделить техническую возможность создания чего-либо. То есть является ли создание артефакта, о котором идет речь, не только номологически, но и технически осуществимым. Хотя дискуссии на тему более широкой, концептуальной возможности искусственного сознания весьма ценны, я всегда подчеркиваю, что с практической точки зрения очень важно определить, сможет ли ИИ, который мы со временем создадим, обрести сознание. Так что у меня особый интерес к технической возможности машинного сознания и к тому, будут ли предприняты попытки его создать.

Чтобы разобраться в этих категориях возможности, рассмотрим популярную разновидность мысленного эксперимента, в котором речь идет о создании изоморфа. Вы, читатель, будете субъектом этого эксперимента. Предлагаемая процедура оставляет все ваши мыслительные функции нетронутыми, но все же представляет собой усовершенствование, поскольку переносит эти функции на иной, более долговечный субстрат. Начнем.

Процедура омоложения вашего мозга

Наступил 2060 год. Вы все еще бодры и в здравом рассудке, но принимаете решение пройти процедуру профилактического омоложения мозга. Друзья советуют вам воспользоваться услугами Mindsculpt – компании, которая в течение часа заменяет части мозга соответствующими микрочипами, пока в конечном итоге мозг не становится полностью искусственным. Сидя в приемной в ожидании консультации хирурга, вы нервничаете. Не каждый день человек принимает решение заменить свой мозг микрочипами. Когда подходит ваша очередь для беседы с врачом, вы спрашиваете: «Останусь ли я при этом самим собой?»

Врач уверенно объясняет, что сознание определяется функциональной организацией мозга, т. е. абстрактным паттерном причинно-следственных взаимодействий между частями вашего мозга. Она говорит, что новые технологии сканирования и визуализации мозга позволяют получить вашу персонализированную карту разума: схему каузальных механизмов, т. е. полное описание того, как ваши ментальные состояния причинно-следственно взаимодействуют друг с другом всеми возможными способами, определяющими, какие эмоции вы испытываете, какие модели поведения выбираете, что воспринимаете и т. д. Похоже, врач и сама восхищается прецизионностью новых технологий. Наконец, взглянув на часы, она подводит итог: «Таким образом, хотя ваш мозг будет заменен микросхемами, карта разума не изменится».

Объяснение врача успокоило и ободрило вас, так что вы записываетесь на хирургическую процедуру. Во время операции врач просит вас не засыпать и отвечать на вопросы. Затем она начинает удалять группы нейронов, заменяя их искусственными нейронами на основе кремния. Первой изменению подвергается слуховая зона коры. Работая над ней, доктор время от времени спрашивает, не замечаете ли вы каких-нибудь изменений в звучании ее голоса. Вы отвечаете отрицательно, и она, закончив, переходит к зрительной зоне коры. Вы говорите, что ваше зрительное восприятие, кажется, не изменилось, так что она двигается дальше.

Не успеваете вы и опомниться, как хирургическая операция подходит к концу. «Поздравляю! – восклицает врач. – Вы теперь своего рода искин. У вас искусственный мозг, скопированный с биологического оригинала. В медицинских кругах таких, как вы, называют изоморфами»^[29].