Леонид Резников
2120. Ловушка для AI
Глава 6
Вызов в святая святых поступил мне неожиданно. Настолько неожиданно, что поверг в ступор всех моих знакомых. Никто не понимал, что он может означать, и чем в итоге закончится. Одни пытались меня успокоить, хотя я не чувствовал особого возбуждение – лишь легкое недоумение, – другие откровенно жалели, третьи молча сторонились, суеверно скрещивая за спиной пальцы, четвертые напутствовали и советовали помалкивать и соглашаться со всем подряд.
Софья молчала.
Нет, ей было вовсе не все равно, что со мной будет. Она все понимала и поддерживала меня, но слова здесь были излишни. Отправляя меня на свидание с Интеллектом, она лишь заботливо поправила воротничок моей отутюженный рубашки. И чмокнула в щеку, сказав напоследок:
– Ты справишься! Поверь, все будет отлично.
И я ей поверил! Только она, моя жена, могла так просто добавить мне уверенности в себе.
А самым молчаливым оказался Степан – тот лишь крепко пожал мою руку, вновь отдавив пальцы, и хлопнул ручищей промеж лопаток, что, вероятно, исходило из переполнявших его чувств.
Пальцы и спина побаливали еще очень долго, что хорошо отвлекало от грустных мыслей. И я даже не заметил, как остановился перед огромным стеклянным зданием областного филиала Глобального Интеллекта. Меня запоздало пробрало морозцем, хотя на дворе стоял жаркий июль. Подумать только, с тех пор как я объявил войну неучам, прошел уже целый год! И вот к чему это в конечном счете привело. Меня мучил вопрос, на который мне никак не удавалось найти ответ: на кой я сдался Интеллекту? Если это начало гонений, то способ покончить со мной довольно странен. К чему вызывать меня пред очи великого кормчего современности? Не проще было бы напустить на меня соответствующие службы? Проще, разумеется. А может, это попытка договориться со мной? Хотя, кто я такой, в самом деле, чтобы со мной договариваться? То же мне, шишка великая! Тогда что же Интеллекту понадобилось от меня?
Я все мялся и мялся у ступеней здания, не решаясь ступить на них, будто ступи я на первую, обратной дороги у меня уже не будет. Но тут из внезапно распахнувшихся стеклянных дверей ко мне заспешил человек в скромной одежде – слишком скромной для подобного серьезного заведения, на мой взгляд. На молодом человеке были цветастые шорты по колено, майка с надписью «AI» и мягкие серые туфли. Линзы его очков ослепляюще сверкали на солнце.
– Ну, чего же вы, господин Васильев? Вас же ждут, а вы здесь стоите.
– Я это… – с трудом выдавил я начало фразы, но молодой человек меня даже слушать не стал.
Подскочив ко мне, он живо сграбастал меня под локоть и потащил к дверям здания. Я настолько обалдел от неожиданности, что даже не помышлял о сопротивлении, покорно переставляя ноги.
– Простите, а вы кто? – только и спросил я.
– Я-то? А никто. Так, обслуживающий персонал, – задорно подмигнул мне сквозь выпуклые стекла очков молодой человек. – Диск там поменять, проводок обжать. Экран когда заменить. Вы себе представить не можете этого монстра: вечно что-то ломается, вечно выходит из строя, к тому же постоянно приходится как-то выкручиваться, мудрить – с запчастями просто беда! Но давайте поторопимся.
Он прибавил шагу, перейдя на трусцу. Я поспешил за ним.
– Да куда мы так торопимся? – не вытерпел я. – Что ему плюс-минус десять минут этому вашему монстру?
– О, не говорите так! Машинное время – удовольствие не из дешевых, все распланировано посекундно, а вы – десять минут!
– Тогда конечно, – пробормотал я ошалело, следуя за молодым человеком по нескончаемым коридорам и лестницам – это ж какая честь мне выпала, если на меня тратили «дорогущее» время. Но эту мысль уже затмила другая: «Господи, а как же я отсюда потом выберусь? Святая святых почище лабиринта Минотавра будет!»
Но времени на подобные размышления у меня не осталось, потому как мы внезапно очутились на месте.
– Проходите, ну же! – легонько подтолкнул меня молодой человек, заметив, как я в нерешительности замер перед распахнувшимися створками серых дверных панелей.
Я опасливо вступил в помещение, побывать в котором не чаял. Молодой человек вошел следом за мной и встал рядом, сцепив руки за спиной.
– Впечатляет, правда? – просто спросил он.
Я не ответил. Отнялся дар речи.
Зал был не то чтобы огромен, но все же внушал благоговейный трепет. Серверные стойки, переплетения кабелей, сверкание огней коммутаторов и прочей техники неясного мне назначения, сияние экранов, испещренных хитроумными таблицами и графиками. Все это сопровождалось басовитым гудением и шелестом системы охлаждения. Не таким я себе представлял Интеллект, совсем не таким. Не было в нем той внушающей почтение возвышенности, какая, к примеру, отражала королей прошлого – у тех был хотя бы трон. Это же разросшаяся до немыслимых размеров машина, обычный компьютер, и ничего более. Но зато какой она обладала властью! Властью, о которой не мог помыслить ни один король или президент…
– Простите, но вас ждут, – настойчиво одернул меня молодой человек.
– А? Да-да, – опомнился я. – Что мне делать?
– Садитесь вон в то кресло, – указал пальцем мой провожатый.
Я заметил кресло у одного из пультов контроля и прошел к нему. Опустился на кожаное сиденье, повозился, устраиваясь поудобнее, и обвел рассеянным взглядом шесть больших экранов. Что теперь?
Я оглянулся на дверь. Молодой человек куда-то исчез. Вероятно, опять что-нибудь сломалось, и он побежал срочно чинить. А может, решил не мешать нашей с Интеллектом беседе. Хотя лучше бы он остался – наедине с этой громадиной я ощущал себя некоей вошью, которую вот-вот кто-нибудь большой и сильный прижмет к ногтю…
– Добрый день, господин Васильев, – откуда-то раздался приятный баритон.
Я вздрогнул и порывисто обернулся к экранам. Все те же таблицы, графики и нескончаемым рулоном бегущий текст.
– Добрый день, – отозвался я хриплым от волнения голосом. – Вызывали?
– Ну, зачем же так официально! Пригласил. Просто пригласил побеседовать о том о сем.
– А… почему именно здесь?
– Мне показалось, это будет символично: мирная встреча машины и человека; соперники, пытающиеся достичь взаимопонимания, компромисса.
– Почему же соперники? Я вроде никоим образом…
– Вы же знаете, что это неправда, – перебил меня Интеллект.
– Что именно? – я решил сыграть под дурачка. Страх во мне постепенно уступал место любопытству.
– Мы соперники. Каждый из нас борется за счастье человека, но каждый понимает его по-своему.
– Возможно, – уклончиво отозвался я.
– Вы меня боитесь.
– Глупости! – фыркнул я, но прозвучало вовсе не убедительно. Машина неплохо разбиралась в людях.
– Боитесь.
– Предположим. И что же дальше? – теперь меня начинало разбирать зло. Да что о себе возомнил этот бездушный комок проводов!
– Меня не надо бояться. Я не могу причинить вам вреда.
– А… – я замер с отвалившейся челюстью. Вот это новость! Так вот в чем причина всего, что со мной произошло, и чего я никак не мог понять. Интеллект был не богом, не царем, а мнил себя добрым наставником, спасающим людей от самих себя.
– По вашему лицу я догадываюсь, что вы все поняли правильно. Мне пришлось направить вас на принудительное лечение в психиатрическую больницу, чтобы вы в возбужденном состоянии не натворили еще каких-нибудь глупостей.
– Прошу прощения, что перебиваю, но почему меня не вернули обратно после побега?
– А зачем, собственно? Во-первых, вы отдохнули, окрепли и не представляли для общества никакой угрозы, а во-вторых, мне очень интересно было наблюдать за вами.
– Даже так? – мне стало неприятно: мной вертели, будто марионеткой, а я возомнил себя едва ли не секретным агентом.
– Честно признаюсь, те, кого вы окрестили «бобром», оказались довольно забавной организацией. Но хлопот с ней было множество, – продолжал между тем монотонно бубнить Интеллект.
– Зачем? – спросил я, думая о своем.
– Что, простите?
– Зачем вы помогали мне все время выкручиваться из историй, в которые я постоянно влипал?
– Я спасал вас от ответственности, если честно, не такой уж и серьезной, но которая могла серьезно испортить вам жизнь. Это моя прямая обязанность.
– Не надо, – буркнул я.
– Я не совсем понял, что вы имеете в виду.
– Не надо меня спасать. Я не просил об этом.
– Но я обязан так поступать! Это моя работа – заботиться о благополучии человека. Человеку не может быть нанесен вред.
– По-вашему, это и есть благополучие?
– А вот этот вопрос я и хотел с вами обсудить. Мне не совсем понятен смысл нашего с вами противоборства.
– Вы действительно не понимаете?
– Нет.
– Ну, знаете!.. – возмущенно всплеснул я руками.
– В том-то и дело, что не знаю. Я есть воплощение идей справедливости и равенства, многовекового человеческого опыта, осуществленная мечта об идеальном обществе. Что же во мне не так?
– Простите, но вы есть не более чем воплощение идей своих создателей, а они далеко не все общество и, тем более, не идеальные.
– Согласен. И вполне допускаю субъективность моей точки зрения на положение дел.
– И на том спасибо.
– Это сарказм?
– Вроде того, – криво усмехнулся я.
– Господин Васильев, я полагал, у нас с вами серьезный разговор.
– Простите.
– Ничего, продолжайте.
– Но я не подготовился к данному разговору.
– Так даже лучше.
– Вы так считаете?
– Уверен. Тем более, неплохо зная вас.
– Звучит несколько оскорбительно, не находите?
– Напротив, скорее, как комплимент. Помните, Петра Первого? «…Говорить токмо словами, а не по писанному, дабы дурь каждого всем видна была». Так вот, вы далеко не дурак, и хотелось бы услышать ваши «живые» соображения.
– Польщен, так сказать. Но все же никак не могу взять в толк, чего вы от меня добиваетесь?
– Истины. Вернее, истины в вашем понимании.
– Ах, только-то! – Я расслабленно откинулся на спинку кресла и задумчиво погладил переносицу пальцем. Интеллект ждал, не торопя меня.
– Мне кажется, следовало бы начать с того, что забота о человечестве ни в коей мере не должна сводиться к потаканию его глупостям, сумасбродству, лени и прочим подобным худшим качествам. Человек, живущий лишь самим собой, не имеет будущего.
– В чем же это выражается, по-вашему?
– Выражается это в довольно простых вещах. У человека все есть, но за просто так. Но и это не главное. Он пресыщен удовольствиями, результатами прогресса, он с самого рождения живет лишь мыслью о себе самом. Собственная красота, собственный успех (в его понимании), собственное здоровье, собственные влечения: отдых, развлечения, курорты, бары, салоны красоты – больше его ничто не интересует. Нет, еще интернет – наркотик, пожирающий умы. Вы в курсе, что рождаемость падает?
– Вопрос рождаемости тоже меня сильно беспокоит.
– Уверяю вас, меня он беспокоит не меньше вашего, хотя, вроде бы, конкретно мне до этого не должно быть никакого дела. А вот большую часть населения земли он не беспокоит вообще, ни в какой форме. Ребенок – это обуза, помеха самосозерцанию, удовлетворению своих бестолковых, пустых влечений. О чем говорить, если даже кормлению грудью младенца – истинный символ материнства, – уже считается не только чем-то непристойным, но и просто вредным для матери?
– Что вы имеете в виду?
– Я имею в виду утерю первоначальной прелести женской груди вследствие кормления. А, похоже, вид собственного бюста беспокоит современных женщин гораздо больше нежели здоровье ребенка.
– Да, подобная тенденция существует. Но разве это противозаконно?
– Скорее, противоестественно. И даже с этим нужно что-то делать.
– Вы предлагаете мне кормить младенцев грудью?
– Очень смешно, – я не засмеялся, даже не улыбнулся.
– Простите. Но я не в силах здесь что-либо предпринять.
– Согласен. Это, скорее, из области некорректности воспитания, нарушение восприятия истинных ценностей. В вашей программе ценности, как я полагаю, совершенно иные.
– Отчего же. Но ценности должны соответствовать конкретной эпохе, прогрессу.
– Истинные ценности не могут иметь, да и не имеют, никакого отношения к так называемому прогрессу или эпохе. Либо общество следует им, и тогда оно процветает, либо отторгаются им – в этом случае общество катится к своему неминуемому концу. К тому же при вашем авторитете вы легко могли бы выправить данную ситуацию.
– Вы считаете, такая необходимость назрела?
– А вы считаете, нет?
– Обоснуйте.
– Пожалуйста. Могу указать истинную причину отказа от истинных ценностей, которые по сути равносильны самой природе человека, опять же на примере грудного вскармливания. Вы знаете, что данный отказ пропагандировался в двадцатом – двадцать первом веках по довольно-таки банальной причине? Крупный производитель детской смеси желал увеличения продаваемости своего товара, то есть, получения крупной прибыли – вот истинная причина. Прибыль важнее здоровья человека.
– Вы, вероятно, шутите.
– Нисколько. Если вы покопаетесь в архивах вековой давности, то непременно убедитесь в правдивости моих слов. Бизнес никогда не шел на пользу человеку, он существовал исключительно для обогащения отдельных личностей.
– Я обязательно проверю ваше допущение. Что-нибудь еще?
– И опять же насчет прогресса. Что вы под ним подразумеваете конкретно?
– Движение вперед, развитие науки.
– И, разумеется, на благо человека?
– Разумеется! Иначе и быть не может.
– В таком случае объясните мне, почему каждый очередной шаг человека вперед сопровождается усложнением его жизни? Почему человек все больше теряет себя, приобретая непонятно что взамен? Разве человек стал жить лучше, обретя бетонные пещеры взамен каменных? Или магазины, где ему теперь следует покупать продукты?
– Но ведь раньше ему приходилось их добывать самому!
– Верно. А по-вашему, сейчас ему не приходится этого делать?
– Не понимаю вас.
– Раньше он добывал, к примеру, зайца, готовил его и кормил им свою семью. Сейчас ему приходится добывать деньги, чтобы купить того же зайца и накормить хотя бы себя. Но сам, своими руками он поймать зайца уже не имеет права. И если он не сможет добыть денег, то непременно умрет с голоду. В чем же преимущество прогресса? Да, сильно продвинулась медицина, но все ли могут получить необходимое им качественное лечение и в полном объеме? Нет, все опять же упирается в деньги. Жилье нужно отапливать зимой? Плати за отопление. Плати за воду, за ее отведение, за электричество, за владение жильем, за землю – деньги, деньги, деньги. Есть деньги – ты человек; нет денег – ты никто, без квартиры, без света, без тепла и без зайца.
– Сложный вопрос. Я не размышлял над этим в подобном аспекте.
– А вы поразмышляйте на досуге. Да, не отрицаю, прогресс – вещь полезная, но лишь когда он во благо человеку. А пока все построено так, чтобы заставить человека работать на благо тех, кто его приобщает к прогрессу. Понимаю, некоторым хочется жить лучше, чем другим, но это вовсе не означает, что другие обязаны оплачивать их, мягко говоря, завышенные потребности.
– Это так, но ведь у всех людей равные права.
– Но разные возможности. Прогресс неминуемо разрывает общество, повышает градус неравенства. Богатые и бедные, имущие и неимущие, те, кто обладает новым крутым смартфоном и те, кто его не в состоянии себе позволить. Хотя, непонятно чем их не устраивает старый и на кой он вообще, по большому счету, им сдался. Разве без него нельзя прожить?
– Можно. Без смартфона можно прожить. Но ведь это удобство!
– Удобство чего? Общения? Развлечения? Отупления?
– Мне кажется, вы слишком мрачно смотрите на вещи.
– А вы, как мне кажется, слишком оптимистичны в своих взглядах. Да вы оглянитесь вокруг! Не успевает ребенок родиться, как родители суют ему в руки планшет, только бы чадо не донимало их, не требовало внимания, не мешало жить. А ребенок мгновенно подсаживается на подобное развлечение, и его уже вообще ничто не интересует. Его мир сужается до размеров экрана гаджета. Ноль развития, ноль моторики, ноль общения. Плюс пагубное влияние на здоровье: малоподвижность, утомление глаз и тэ дэ, и тэ пэ, и пр.
– Вы против прогресса, господин Васильев?
– Я против навязывания людям пустых и вредных влечений не знаю уж в чью угоду. Человечество приучили стремиться к обладанию массой совершенно ненужных и бесполезных вещей. И здесь возникает законный вопрос: кому это нужно? Человеку? Или тому, кто имеет с этого выгоду?
– Я понял вас. – Интеллект сделал небольшую паузу, будто брал передышку на переваривание информации. Глупость, конечно, при его-то мощностях, но мне так показалось. – Тогда еще один немаловажный вопрос: чем вам не угодил искусственный интеллект?
– Отсутствием меры, – ответил я, не задумываясь.
– Как-как? – в голосе машины послышалось недоумение.
– Именно отсутствием меры. Я вовсе не против интеллекта и ни в коей мере не отношу себя к машиноборцам. Но машина, как мне кажется, должна быть помощником человеку, а не заменой его собственного мышление.
– Поясните свою мысль.
– Поясняю: если я хочу посмотреть телевизор, то мне достаточно для этого найти нужный канал, а не вступать в пустые прения с телевизором, доказывая ему, что передача меня не интересует, и рейтинги ее – тем более. Мне не нужен интеллект в чайнике или в стиральной машине, работающий на своего производителя. Я совершенно свободно могу сам себе купить продукты, а не перекладывать эту обязанность на холодильник, особенно учитывая, что он меня ни о чем не спрашивает. Я хочу сам крутить баранку своей машины, и не желаю, чтобы за меня это делал мудреный процессор.
– Разве это плохо?
– Очень плохо! К примеру, вождение – это искусство, требующее определенной подготовки, знаний и опыта. Автомобиль необходимо чувствовать, ощущать, как бьется его железное сердце, слышать его радости и боли, слиться с ним, сделать его своим продолжением, а не быть его бесполезным придатком. Это тоже своего рода радость – радость ощущения некоей малой победы над природой, которая не даровала человеку возможность быстрого передвижения. Но вождение и большая ответственность: за пассажиров, которые находятся рядом с тобой, за других людей. Ответственность помогает человеку осмыслить себя, свое поведение, воспитывает самоконтроль. Безответственность и безнаказанность, наоборот, ведет к наплевательскому отношению к окружающим, человек ощущает ложное превосходство над другими – это плохо.
– Бесспорно. Но, предположим, что плохого в том, что экскаватор сам выкопает траншею, без человека? Ведь искусственный интеллект справится с этой задачей не хуже человека? А, возможно, и лучше.
– А что в таком случае делать человеку? Чахнуть от безделья, увлекая себя всякими примитивными глупостями, теряя навыки и превращаясь в немощного младенца, который без мудрого родителя шагу ступить не сможет? Это, простите, уже не помощь, а пособничество вырождению человека как разумного вида. Если так дело пойдет и дальше, то мы скоро вновь будем прыгать по веткам, гукать и ждать, когда смышленая машина протянет нам банан, лишь мы нажмем кнопку. А если вдруг машина разладится? Или кнопку заест? Нет, человек должен быть сам хозяином своей жизни, только он и никто другой! Да, и что касается этических вопросов: я просто убежден, что их решение нельзя передоверять машине, даже такой мудрой, заботливой и правильной, как вы. Судить и решать должен человек, а машина должна лишь оказать ему в том посильную помощь – в этом я просто убежден.
– Вас не устраивает машинное правосудие? Оно не достаточно справедливо и гуманно?
– Справедливость – понятие относительное. Абсолютной справедливости не существует.
– Разумеется. Мы говорим о справедливости на основе законов.
– Вот именно. Что касается гуманности… Видите ли, излишняя гуманность ведет к появлению ощущения безнаказанности и вседозволенности.
– Но сомнения всегда толкуются в пользу человека! А возможность причинения человеку вреда есть вещь крайне сомнительная.
– В том-то все и дело. Закон должен защищать и карать. Кара – неизбежное наказание за проступок, особо серьезный и преднамеренный. Причем здесь гуманизм? Человек нарушил закон – он должен понести наказание. Гуманизм не может быть поводом избегнуть заслуженную кару.
– Это странно, господин Васильев, но в ваших суждениях есть корень истины. Мне нужно осмыслить полученную информацию. Благодарю вас.
– Постойте! – встрепенулся я.
– Слушаю вас.
– А… разве это все?
– Вы имеете еще что-нибудь сказать?
– Нет, но…
– В таком случае всего доброго, господин Васильев. У меня действительно много работы.
С неясным тягостным чувством я покидал обиталище Глобального Интеллекта. Чем все это закончится, и не напорол ли я еще массу глупостей? Очень уж не хотелось оказаться крайним, случись что непоправимое. Я попытался уверить себя, что это лишь моя мнительность, и мудрый Интеллект не вытворит какой-нибудь глобальной глупости, но…
Не успел я спуститься по ступеням, как вокруг меня начало твориться нечто невообразимое: люди замирали на месте, озираясь по сторонам, отнимая от глаз смартфоны, вытаскивая из ушей наушники, стягивая коммуникаторы, вновь разрешенные к использованию всего месяц назад. Машины останавливались и отказывались двигаться дальше. Парившие в воздухе квадрокоптеры теряли ориентацию и бесцельно кружили над домами и улицами, словно все разом сошли с ума. Огромные табло и экраны на стенах домов разом погасли.
Я понял, что произошло. Я был единственным, кто понимал причину надвигающегося хаоса, и потому невольный страх от осознания того, что я натворил, охватил меня и погнал прочь от стеклянного здания, все так же сверкавшего своим совершенным чистеньким фасадом – единственного, что сохранилось от величественного мира электронного владыки.
– Федя! – окликнул меня знакомый голос.
Я остановился, повернул голову влево.
Ко мне спешили Степан, Софья и, разумеется, квадрокоптер – куда же без него!
– Федя, что происходит? – Софья, подбежавшая ко мне первой, вцепилась в мою рубаху и встряхнула меня. – Что ты опять натворил? Все встало, ничего не работает! Федя, ну чего ты молчишь? Мы так за тебя боялись.
А я только смотрел на нее, не в силах вымолвить ни слова. Потом поднял руку и провел ладонью по щеке жены. Вот она – истинная цель существования человечества, на чем держится Земля и чем мы живем. Это любовь, дружба – самые чистые и добрые чувства на свете, то, ради чего стоит жить. Остальное неважно.
И вдруг над нашими головами раздался знакомый мне голос:
– Люди Земли, слушайте и запоминайте: с этого дня вам надлежит думать и жить как подобает мыслящим существам, носящим гордое звание Человек. Наступает новая эпоха – эпоха мира, процветания и движения к истине. Ничего не бойтесь, о подробностях каждый из вас будет уведомлен. Но если вам понадобится моя помощь, знайте – я всегда рядом.
– Что это? Что это значит? – закрутила головой Софья. – Федя!
– Он все понял, – пробормотал я, медленно приходя в себя.
В кармане, оживая, пиликнул смартфон – пришло сообщение. Такие же сигналы эхом отдались вокруг нас. Люди хватались за мобильные устройства, жадно вчитываясь в сообщения. Их лица выражали недоумение и страх неопределенности.
Ожили некоторые из автомобилей – как я заметил, у них был руль. Но большинство машин, рекламные экраны на стенах домов и коммуникаторы остались безжизненны. Напуганные парочки жались друг к дружке, мамаши прижимали к себе плачущих детей, люди сбивались в кучки, жарко обсуждая странное происшествие, и не было оставшихся в стороне. Нет, были – единицы. Эти спешили поскорее укрыться в своих уютных квартирах, полагая, что там осталось все по-прежнему. Но я знал, что дома их ждет одно лишь горькое разочарование. Человечеству вновь предстояло постичь Истину.
– Он все правильно понял, – повторил я, обнял за плечо Софью, хлопнул по спине Степана, и мы зашагали прочь, радуясь непонятно чему. Впрочем, я-то наверняка знал причину своей радости – у меня было все, чего только может желать человек. Нет, не все – я внезапно осознал, что нам с Софьей не хватает детей! Но теперь я был уверен: все еще будет, обязательно будет…
В оформлении обложки использованы фотографии с https://pixabay.com/ по лицензии CC0
