Сьюзан Шнайдер
Искусственный ты. Машинный интеллект и будущее нашего разума
Что это все значит?
Цель философских мысленных экспериментов – подстегнуть воображение; вы вольны соглашаться или не соглашаться с развязкой сюжета. В данном случае говорится, что операция прошла успешно. Но как бы вы себя чувствовали после такой операции на самом деле – точно так же, как прежде, или в чем-то иначе?
Вашей первой реакцией, возможно, будет вопрос, действительно ли то, что получилось, – это настоящий вы, а не какой-нибудь дубль. Это важный вопрос, который стоит в центре нашего разговора в главе 5. Пока же будем считать, что человек после операции – это по-прежнему вы, и сосредоточимся на том, изменится ли при этом в нашем восприятии ощущаемое качество сознания.
В книге «Сознающий ум»[30] философ Дэвид Чалмерс, обсуждая аналогичные ситуации, настаивает, что ваши переживания должны остаться неизменными, поскольку альтернативные гипотезы попросту слишком притянуты за уши[31]. В соответствии с одной из таких гипотез ваше сознание будет постепенно гаснуть по мере замены нейронов микрочипами, примерно как гаснет звук музыкального проигрывателя, когда вы плавно поворачиваете ручку громкости. В какой-то момент, в точности как звучание песни, ваше сознание просто исчезнет. Еще одна гипотеза предполагает, что до какого-то момента ваше сознание будет оставаться неизменным, а потом резко «выключится». В обоих случаях конечный результат один и тот же: свет гаснет.
Оба этих сценария и Чалмерсу, и мне представляются маловероятными. Если искусственные нейроны действительно представляют собой точные функциональные копии, как предполагает наш мысленный эксперимент, то трудно понять, почему они должны вызвать плавное угасание или резкие сдвиги в качестве вашего сознания. Такие дуплицированные искусственные нейроны по определению обладают всеми причинно-следственными свойствами, принципиально важными для вашей ментальной жизни[32].
Итак, кажется правдоподобным, что такая процедура, будь она проведена, привела бы к появлению ИИ, обладающего сознанием. Этот мысленный эксперимент может служить аргументом в пользу того, что синтетическое сознание возможно, по крайней мере концептуально. Но, как отмечено в главе 1, концептуальная возможность, следующая из подобного мысленного эксперимента, не гарантирует, что в случае создания подвинутого ИИ тот будет обладать сознанием.
Важно задаться вопросом, возможна ли в принципе ситуация, описанная в мысленном эксперименте. Не противоречит ли создание изоморфа законам природы? И если не противоречит, то достигнет ли когда-нибудь человечество технического уровня, достаточного для его создания? Да и захочет ли этим заниматься?
Говоря о том, возможны ли номологические (т. е. без нарушения законов природы) события, описанные мысленным экспериментом, отметим, что мы в настоящее время не знаем, способны ли другие материалы воспроизвести ощущаемое качество ментальной жизни. Возможно, мы узнаем это довольно скоро, когда врачи начнут использовать медицинские импланты на основе ИИ в тех частях мозга, которые отвечают за осознанные переживания.
Одна из причин, по которым это может оказаться неосуществимым, состоит в том, что осознанные переживания, возможно, зависят от квантово-механических свойств мозга. Если это так, то наука никогда не получит той информации о мозге, которая необходима для создания истинной квантовой копии вашей личности, – ведь квантовые ограничения, касающиеся измерения частиц, не позволят нам узнать точные свойства мозга, требующиеся для создания настоящего изоморфа.
Но давайте, для целей нашего разговора, считать, что создание изоморфов возможно как концептуально, так и номологически. Будут ли люди их создавать? Я сомневаюсь в этом: превращение человека в обладающий сознанием ИИ путем последовательного совершенствования потребовало бы намного большего, чем изготовления нескольких нейронных протезов. Разработка изоморфа требует научных прорывов такого масштаба, который позволил бы заменить все части мозга искусственными компонентами.
Более того, развитие медицины в ближайшие десятилетия вряд ли приведет к появлению мозговых имплантов, точно воспроизводящих вычислительные функции групп нейронов, а наш мысленный эксперимент требует, чтобы все части мозга были заменены их точными копиями. К тому времени, когда эта технология будет разработана, люди, скорее всего, предпочтут расширять свои возможности, а не становиться изоморфами своего прежнего «я»[33].
Даже если бы люди ограничились копированием способностей вместо того, чтобы совершенствовать их, то как бы нейробиологи подошли к этой задаче? В первую очередь исследователям потребовалось бы полное описание работы мозга. Как мы уже видели, программисты должны распознать все абстрактные, причинно-следственные черты, которые влияют на обработку информации системой, не полагаясь при этом на низкоуровневые свойства, не имеющие значения для вычислений. Отметим, что определить, какие свойства важны, а какие нет, не так просто. Как насчет гормонов мозга? Глиальных клеток? Даже если бы информация такого рода была под рукой, несложно представить, что работа программы, эмулирующей мозг со всей точностью и полнотой, потребовала бы гигантских вычислительных ресурсов, которые вряд ли появятся в ближайшие десятилетия.
Может быть, коммерческий императив создания изоморфов даст толчок построению более сложных искинов? Сомневаюсь. Нет оснований считать, что самым эффективным и экономически разумным способом получения машины для выполнения определенного класса задач является обратное проектирование и точное копирование мозга. Взгляните, например, на искины, выигрывающие у чемпионов мира по го, шахматам и игре Jeopardy! Они превосходят человека за счет методов, совершенно непохожих на те, что используют в соответствующей игре люди.
Вспомните, с чего мы начали разговор об изоморфах. По идее, они должны были сказать нам, могут ли машины обладать сознанием. Но, когда дело доходит до определения, будут ли машины, которые мы реально сможем сконструировать в ближайшем будущем, обладать сознанием, изоморфы становятся скорее отвлекающим фактором. ИИ достигнет продвинутого уровня задолго до того, как изоморфы хотя бы приблизятся к реализации. На этот вопрос необходимо ответить раньше, особенно с учетом тех соображений этики и безопасности в отношении ИИ, о которых я говорю.
Таким образом, вера технооптимистов в перспективы искусственного сознания опирается, в сущности, на ошибочную цепочку рассуждений. На их взгляд, машины смогут обрести сознание, поскольку нам известно, что мозг обладает сознанием, и мы могли бы построить его изоморф. Но никто не знает на самом деле, действительно ли мы сможем когда-либо это сделать – да и захотим ли. Ответ на этот вопрос нужно искать эмпирически, и перспектива того, что мы действительно будем это делать, сомнительна. К тому же он бесполезен в смысле того, что мы реально хотим узнать, а именно – обладают ли сознанием другие ИИ-системы, не являющиеся результатом изоморфного копирования мозга.
Нам уже сейчас жизненно важно определить, могут ли мощные автономные системы обладать сознанием или обрести его в ходе дальнейшего развития. Не забывайте, сознание в зависимости от особенностей архитектуры системы может по-разному влиять на этическое поведение машины. В контексте одного типа ИИ-систем сознание может повышать непредсказуемость машины. В другом случае оно может сделать ИИ более отзывчивым. Сознание даже в рамках одной системы может по-разному влиять на ключевые системные качества, такие как IQ, эмпатия и целостность содержания цели. Важно, чтобы текущие исследования принимали во внимание все возможные варианты. Например, тестирование на раннем этапе и выявление сознания может привести к созданию продуктивной среды «искусственного фронезиса» – освоению машиной этических норм путем привития их людьми в надежде «воспитать» машину с верными моральными ориентирами. Искины следует исследовать в ограниченных контролируемых средах в поисках признаков сознания. В случае обнаружения сознания необходимо будет изучить его влияние на архитектуру конкретной машины.
Для получения ответов на эти насущные вопросы нужно идти дальше простейших мысленных экспериментов с точной заменой нейронов, какими бы увлекательными они ни были. Хотя такие эксперименты полезны и помогают разобраться с концептуальной возможностью искусственного сознания, как я уже отмечала, они мало что говорят о перспективах создания обладающих сознанием искинов в реальности и о природе таких систем.
Мы поговорим об этом в главе 3. Там я оставлю в стороне чисто философские дебаты и применю другой подход к вопросу о том, возможно ли создать ИИ, обладающий сознанием, с учетом как законов природы, так и технических достижений человечества. Технооптимисты считают, что да; сторонники биологического натурализма отвергают такую возможность начисто. Я же осмелюсь утверждать, что ситуация здесь намного, намного сложнее.
Глава 3
Проектирование сознания
Как только мы насытим материю и энергию во Вселенной интеллектом, она «проснется», обретет сознание и невероятный разум. Это настолько близко к понятию Бога, насколько я могу представить.
РЭЙ КУРЦВЕЙЛ
Машинное сознание, если оно в принципе существует, может обнаружиться вовсе не в тех роботах, которые цепляют струны нашей души, как R2-D2[34]. Оно, возможно, будет обитать в какой-нибудь совершенно несексуальной серверной в подвале здания факультета информатики Массачусетского технологического института. А может быть, оно появится в какой-нибудь сверхсекретной военной программе и будет в конечном итоге выключено как слишком опасное или неэффективное. Искусственное сознание будет зависеть, скорее всего, от явлений, которые мы в настоящее время не можем даже вообразить, например от правильности конфигурации микрочипа, который еще только предстоит изобрести, или желания разработчиков и публики получить ИИ, обладающий сознанием. Оно может зависеть даже от таких непредсказуемых факторов, как прихоть какого-нибудь разработчика, такого как персонаж Энтони Хопкинса в телесериале «Мир Дикого Запада». Такая неопределенность заставляет меня занять половинчатую позицию между технооптимизмом и биологическим натурализмом. Я называю свой подход просто: «Поживем – увидим».
С одной стороны, как я уже отмечала, популярное обоснование биологического натурализма – мысленный эксперимент с китайской комнатой – не исключает машинного сознания. С другой стороны, я считаю, что технооптимизм делает из вычислительной природы мозга слишком далекоидущие выводы и преждевременно заявляет, что ИИ будет обладать сознанием. Пришло время обратиться к подходу «поживем – увидим» и объективно посмотреть, согласуется ли искусственное сознание с законами природы и если согласуется, то возможно ли оно технически, или представляет ли его создание интерес. Исходя из этого, я буду опираться в своих рассуждениях на конкретные сценарии когнитивистики и ИИ-исследований. Суть подхода «поживем – увидим» проста: я изложу несколько сценариев, иллюстрирующих доводы за и против развития машинного сознания на Земле. Мораль с обеих сторон дискуссии заключается в том, что обладающие сознанием машины, если они возможны в принципе, могут возникнуть в одних архитектурах и не возникнуть в других и могут к тому же потребовать целенаправленных технических решений, именуемых «проектированием сознания». Эти проблемы невозможно разрешить, сидя в кресле и рассуждая; нет, мы должны тестировать машины на наличие сознания. В главе 4 будут предложены пригодные для этого тесты.
Первый из сценариев касается сверхразумного ИИ. Напомню, что это гипотетический тип ИИ, способный по определению превзойти человека во всех областях. Как уже говорилось, трансгуманисты и другие технооптимисты нередко считают, что внутренняя ментальная жизнь сверхразумных искинов будет богаче, чем у людей. Однако первый сценарий заставляет усомниться в этом, поскольку предполагает, что с появлением сверхразумных искинов – или даже других типов высокосложных универсальных разумов – сознание может попросту устареть и выйти из моды.
Исчезновение потребности в сознании
Вспомните, насколько сосредоточенны и внимательны вы были за рулем, когда только научились водить машину и внимательно отслеживали каждую деталь – очертание дороги, расположение приборов, положение ноги на педали и т. п. Набравшись опыта, вы, надо полагать, научились ездить по знакомым маршрутам, почти не замечая деталей, однако вполне эффективно. Младенец, когда учится ходить, должен полностью концентрироваться на этой задаче – так и вождение поначалу требует полной сосредоточенности и лишь потом становится более рутинным занятием.
Между прочим, лишь небольшая доля наших ментальных процессов в любой отдельно взятый момент проходит на сознательном уровне. Когнитивисты скажут вам, что подавляющая часть наших мыслей представляет собой неосознанные вычисления. Как подчеркивает пример с вождением, сознание прочно связано с освоением новых задач, требующих внимания и осознанной сосредоточенности, тогда как более рутинные задачи могут выполняться без осознанных вычислений и представлять собой подсознательную обработку информации.
Разумеется, если вы по-настоящему хотите сосредоточиться на деталях вождения, то можете это сделать. Но у мозга есть сложные вычислительные функции, которые невозможно проследить осознанно, как бы вы ни старались. Например, мы не в состоянии проследить за преобразованием двумерных изображений в трехмерные.
Нам, людям, сознание необходимо для выполнения определенных задач, требующих особого внимания, но архитектура развитого ИИ, возможно, будет сильно отличаться от нашей. Не исключено, что у него не будет необходимости в осознанных вычислениях. Так, сверхразумный ИИ по определению – это система, которая обладает знаниями экспертного уровня во всех областях. Он способен использовать громадные базы данных, включающие весь интернет и охватывающие в конечном итоге всю Галактику. Что для такой системы будет новой задачей? Что потребует от нее неспешной, осознанной сосредоточенности? Разве она не владеет уже всеми навыками? Может быть, она, подобно опытному водителю на знакомой дороге, ограничится только неосознанной деятельностью. Даже самосовершенствующийся искин, который не является сверхразумом, сможет по мере оттачивания навыков все больше полагаться на рутинные методы решения задач. С развитием интеллекта системы потребность в сознании может и вовсе пропасть.
Простое рассмотрение вопроса эффективности показывает, что, как ни крути, а самые разумные системы вовсе не обязательно будут обладать сознанием. Мало того, это отрезвляющее наблюдение может оказаться верным даже далеко за пределами Земли. В главе 7 я показываю, что другие технологические цивилизации, если они существуют где-нибудь во Вселенной, возможно, уже уступили место синтетическому разуму. Может оказаться, что в космическом масштабе сознание всего лишь крохотное отклонение, мгновенный всплеск переживаний во Вселенной, предшествующий возвращению к бездумности.
Не буду утверждать, что искины, став достаточно развитыми, обязательно откажутся от сознания в пользу бессознательных архитектур. Я придерживаюсь подхода «поживем – увидим». Но сама вероятность того, что развитый интеллект может отказаться от сознания, говорит о многом. Такой исход не укладывается в рамки ни биологического натурализма, ни технооптимизма.
Следующий сценарий предлагает еще более циничную картину – в нем ИИ-компании предпочитают сэкономить на разуме.