Евгений Черешнев
Форма жизни № 4: Как остаться человеком в эпоху расцвета искусственного интеллекта

В ходе обучения на примерах в нейронной сети между вершинами выстраиваются так называемые веса, определяющие силу связей, аналогично силе синапсов, между нейронами в смежных слоях, причем в ходе решения одного примера выполняется несколько итераций для минимизации ошибки (ведь правильный ответ в примере содержится). Но если в элементарном перцептроне всего один слой A-элементов, что делает задачу коррекции весовых коэффициентов по результатам каждой итерации достаточно простой, то в случае многослойных нейронных сетей процесс пересчета весовых коэффициентов требует уже достаточно сложной математики, в частности использования метода градиентного спуска. На практике это означает, что, если вы показываете ИИ фотографию красного квадрата, сначала оптическая система машины разбивает изображение на пиксели, превращая картинку в массив данных, содержащих информацию о цвете каждого пикселя в формате RGB. Затем, для упрощения работы с изображением, машина подвергает массив, описывающий картинку, бинаризации, то есть убирает сведения о цвете, заменяя их черно-белым изображением. Потом нейронная сеть распознаёт, что за фигуру видит, «понимает», что это квадрат (ибо перед этим обучалась на тренировочном наборе данных, содержащем пары «изображение геометрической фигуры – наименование геометрической фигуры», и в ее нейронной сети закрепились нужные весовые коэффициенты). Ну а задача сопоставления шестнадцатеричного кода RGB-пикселей внутри контура с названием цвета достаточно элементарна, и в итоге машина говорит человеку на выходе: «Это красный квадрат». Все, чем занимаются современные дата-сатанисты (так на жаргоне называют специалистов по данным, data-scientists), – это подбор параметров нейронной сети (количества нейронов, слоев, начальных весов связей, функции активации, зачастую еще требуется введение в схему так называемых нейронов смещения), выбор метода оптимизации градиентного спуска, нахождение оптимальных весов связей между нейронами путем тренировки на тщательно отобранных наборах данных (что само по себе представляет сложную задачу). Этот итеративный процесс нахождения нужных весов требует огромного количества обучающих примеров. Наш мозг действует схожим образом: между нейронами за счет анализа входящих данных, приходящих в мозг со всех органов чувств, связи со временем усиливаются, ослабляются, ежедневно возникают новые и исчезают старые (поэтому мы что-то забываем), и, помогая ИИ перейти от ANI к AGI, мы делаем нейронные сети все более сложными и обучаемыми.

Многие думают, что искусственный интеллект – это нечто, что есть только у Google или Amazon. Вовсе нет. Как мы уже обсудили в самом начале, многие концепции работы и обучения современных ANI (ИИ узкого применения) придуманы еще в 1950–1960-х годах, а методы реализации начали крайне бурно развиваться аж 20 лет назад – просто для сегодняшних масштабов нужны были качественно иные вычислительные мощности и появление нейронных сетей (наследников перцептрона). Многие успешные модели, алгоритмы, программные решения и библиотеки попадают в сеть, в открытый доступ. Сегодня, если постараться, можно найти готовое решение для массы задач – от распознавания штрихкодов на продукте питания до предсказания опоздания вашего самолета (серьезно!). Самые продвинутые и популярные продукты (библиотеки, сервисы, фреймворки) – это, безусловно, TensorFlow от Google, PyTorch от Facebook, IBM Watson Machine Learning, Microsoft Azure Machine Learning – здесь^[12] приведена дюжина основных. Самая богатая подборка^[13] готовых к использованию ИИ-библиотек и программных модулей на момент написания этой книги содержит 372 SDK (наборов средств разработки), 11 библиотек, 318 программ с открытым исходным кодом. Любой желающий может прямо сейчас зайти в сеть и собрать свою первую нейронную сеть за считаные часы. Безусловно, тут потребуются базовые знания программирования, но в Сети масса интересных курсов, например на Coursera.org – обычно в течение месяца можно освоить начальный уровень программирования на языке Python, а затем можно пройти курс по data-science. Существует и социальная сеть Kaggle для интересующихся машинным обучением, предоставляющая инструментарий для разработок, там можно поучаствовать в совместных проектах и конкурсах. То есть сегодня каждый в течение отпуска может научиться решать прикладные задачи с использованием искусственного интеллекта ANI. Безусловно, вещи вроде AGI могут позволить себе только титаны рынка и только в секрете – ибо на этом уровне начинается игра по завоеванию уникального конкурентного преимущества (а по факту – завоеванию человечества на этом уровне). Но что касается нишевых применений, сегодня многие нерешенные проблемы упираются не в то, что человечество не понимает, как их решать, а просто в отсутствие достаточно значимой выборки (размеченной базы данных) для обучения. Отчасти поэтому, например, профессия археолога пока находится в меньшей опасности: ИИ вряд ли сможет заменить в ней человека в обозримом будущем, ибо она подразумевает слишком большой спектр разношерстных знаний и умений – от чтения шумерских текстов до умения управляться с хлыстом – Индиана Джонс, конечно, кладезь стереотипов, спасибо Стивену Спилбергу ☺

Никакая нейронная сеть или алгоритм (причем это касается и человеческого мозга) не могут работать без входящих данных. Без данных машине нечего обрабатывать, она ничему не может научиться и сам смысл ее существования отсутствует. Поэтому все 100 % компаний, декларирующих, что они как-то связаны с искусственным интеллектом, в первую очередь ставят на поток сбор данных. Профильных и не очень. С людей и автоматических датчиков, фитнес-браслетов, сотовых станций, машин, турникетов метро, светофоров, медицинских МРТ-сканеров, порносайтов и еще много чего.

Развитие искусственного интеллекта идет полным ходом, он становится все более совершенным, ибо мы находим все более эффективные способы его обучать. У этого процесса есть много драйверов – это не только эволюционные процессы, о которых мы говорили в первых главах, но и крайне узко мыслящие, решающие прикладные проблемы заказчики: военные, фармацевтические гиганты, политические силы, маркетологи, соцсети и т. д. Поскольку эти инстанции решают конкретные задачи, связанные с монетизацией и выручкой, которую можно оценить в долларах, евро, рублях, юанях и фунтах, с политическим влиянием, измеряемым в голосах избирателей, или с достижением военного преимущества, определяющим вероятность победы в бою и дающем козыри при утверждении нового бюджета на «оборону», – они очень гордятся своей практичностью, приземленностью и конкретностью, а на попытки осмыслить общую картину, взглянув на все это со стороны, просто не остается времени и сил. Однажды на крупной международной конференции в приватной беседе во время кофе-брейка, я спросил генерала, фамилию и родину которого он попросил в книге не упоминать: «Вы понимаете последствия внедрения ИИ в системы автоматической идентификации и поражения целей для человечества в целом?» Он ответил: «Евгений, у меня нет задачи защищать человечество в целом, у меня есть задача защищать граждан страны Х. О человечестве пусть думает ООН, если им так хочется. Но это не моя работа». Это в целом все, что вам надо знать о большинстве заказчиков ИИ-разработок: общая картина им недоступна, да и видеть ее они не хотят. Им за это не платят. Проблема вот в чем: неважно, какую задачу решают инженеры заказчика, ее выполнение невозможно без «топлива» для ИИ. Это «топливо» – данные. А производим их в основном мы с вами.

Понять наши поведенческие паттерны (как работает наш мозг, что вызывает в сознании человека определенные ассоциации и реакции), смоделировать мыслительный процесс, просчитать поведение человека, сделать его предсказуемым сегодня пытаются все – государства, соцсети, бизнесы, спецслужбы – все подряд. И ни примитивность современных суперкомпьютеров, ни огромные затраты не смущают основных заказчиков этих исследований и экспериментов. Ибо, помимо очевидного инструментария управления и манипуляции, понимание принципов работы человеческого сознания и расчет возможных линий поведения, пусть и с погрешностью, – это огромные деньги, объем которых даже трудно представить. Потенциально речь идет о рынке в триллионы долларов. Английский публицист XIX века Томас Даннинг писал: «Но раз имеется в наличности достаточная прибыль, капитал становится смелым. Обеспечьте 10 %, и капитал согласен на всякое применение; при 20 % он становится оживленным, при 50 % положительно готов сломать себе голову; при 100 % он попирает ногами все человеческие законы; при 300 % нет такого преступления, на которое он не рискнул бы, хотя бы под страхом виселицы»^[14]. Именно это, на мой взгляд, сегодня и происходит.

Безусловно, самую большую ценность представляют выводы, извлеченные из данных (о чем мы детально поговорим чуть позже), так же, как бензин и авиационный керосин стоят дороже, чем сырая нефть. Но основа основ любого искусственного интеллекта – это именно сырые данные, которые превращаются в настоящую цифровую нефть, когда их кто-то или что-то размечает по конкретным признакам. Именно размеченные данные – это когда кто-то (человек или уже заряженный на узкую задачу ANI) смотрит на последовательность действий подключающегося к платежной системе пользователя и помечает, что это выглядит подозрительно, или констатирует, что это место на рентгене похоже на опухоль. Когда данные размечены, вы можете ставить машине очень конкретные прикладные задачи – проверить надежность заемщика, определить нарушителя на дороге по шраму на лице, делать еще миллион вещей и зарабатывать на этом деньги, манипулировать общественным мнением или… да мало ли что? С данными и прогрессивным ИИ в теории для вас нет вообще ничего невозможного. Поэтому за данные сегодня идет настоящая война, у которой есть свои причины и следствия. Но, прежде чем в них окунуться, необходимо понять, какие данные вообще бывают, из чего состоят и кто уже имеет к ним доступ. Чтобы в этом вопросе разобраться, мне в 2015 году пришлось стать киборгом. В каком-то смысле…

ИИ, который научился обходить двери

Илон Маск долгое время в интервью, подкастах, твиттере продвигал тему опасности ИИ. В частности, со сцены выставки SXSW в марте 2018-го он сказал: «За разработкой ИИ должен быть установлен контроль со стороны публичной и независимой международной организации, которая в любой момент времени сможет подтвердить, что все ведущиеся разработки безопасны. Это очень важно. Я думаю, что опасность ИИ намного превосходит опасность ядерных боеголовок – потому делать новые ядерные бомбы мы всем желающим и не разрешаем! Это было бы идиотизмом!»^[15] Но в определенный момент он начал заниматься им сам – компания OpenAI, где он стал сооснователем, вступила в гонку. Ведущий популярного подкаста Джо Роган спросил Маска о том, почему тот так поступил, ведь он всех долгое время предостерегал от подобных шагов. Илон Маск ответил: «Я очень много раз пытался всех убедить затормозить разработку ИИ. Разработать сначала механизмы регулирования. Я объяснял, почему это опасно, даже встречался с сенаторами. Но все оказалось бесполезно. Никто меня не слушал. …И я стал фаталистом в этом вопросе – я не могу ничего остановить. Я могу лишь участвовать». Так вот, его собственный проект OpenAI в 2020 году начал демонстрировать зачатки тех возможностей ИИ, о которых предостерегал Илон. Один из модулей ИИ учился прятаться, а другой – искать. И тот, что пытался скрыться, научился прятаться в виртуальном лабиринте за ящиками и перекрывать ими двери, чтобы его не нашли. После недолгого обучения модуль поиска, найдя пандусы, начал с их помощью перелезать по верху. Безусловно, это просто иллюстрация возможностей работы так называемой умной мультиагентной системы. Представьте, что будет лет через десять? А в 2222 году?

Глава 5
В которой я вживляю себе в руку биочип ради правды об интернете вещей

Прежде чем начать описывать типы данных, что о нас собирают все кому не лень, я хочу рассказать вам собственную историю – как я пришел к пониманию глубины проблем, связанных с личными данными. До того, как основать свою компанию, я более пяти лет был топ-менеджером в индустрии кибербезопасности. Это стало причиной определенной профессиональной деформации – ведь, когда сидишь в передовом окопе интернета и первым видишь все угрозы – вирусы, кибероружие, ИИ на службе преступных группировок и хакеров, выводящих из строя центрифуги для обогащения урана, поневоле начинаешь становиться параноиком. Это сослужило мне хорошую службу.

Вся история развития индустрии кибербезопасности – это летопись противоборства брони и снаряда: хакеры постоянно придумывают оригинальные трюки, защитники изобретают ответные меры и пытаются уйти на шаг вперед. Так продолжается бесконечно, так было есть и будет. Black Hat – крупнейшая в мире конференция по кибербезопасности, уникальное место, чем-то напоминающее космопорт планеты Татуин из «Звездных войн» или Блук из мультфильма «Тайна третьей планеты» по повести Кира Булычева: вокруг тысячи людей из сотни стран, на вид добрые, приветливые и улыбчивые, но на деле все носят маски: «белые» хакеры, взламывающие сети во имя добра^[16], «черные» хакеры, скрывающиеся под вымышленными именами, сотрудники всех на свете спецслужб, маскирующиеся под зевак, журналистов и бизнесменов, хактивисты, адвокаты, какие-то пронырливые личности. Причем «ломают» тут всё и всех. Бывали случаи, когда «внезапно» переставали работать лифты отелей с ключевыми спикерами внутри, рекламные щиты начинали показывать порно, проекторы проецировали на стены «списки позора» посетителей, чьи цифровые личности взломали на выставке из-за того, что те не уделяли внимания киберзащите. Эти списки включали имена, контакты, место работы, частную переписку и номера кредитных карт.

Периодически прямо на конференции появляется спецназ ФБР с мегафонами и автоматами – группа захвата SWAT с помпой проводит задержание именитого хакера, которого удалось вычислить спустя годы оперативной работы. Всегда весело! Одна из главных ценностей мероприятия в том, что четыре дня перед официальным началом в помещениях конференции идут профессиональные тренинги лучших в мире экспертов по взлому и защите – можно научиться чему-то очень конкретному на практике. Взламывать приложения для Android, защищать роутеры корпорации, в которой работают 50 000 человек, пользоваться социальным инжинирингом для манипуляций человеческим поведением, обходить защиту доменной учетной записи Windows, научиться быть невидимым в Сети… можно выбрать любой из десятков уникальных образовательных курсов.

Я регулярно посещаю их, чтобы не стоять на месте и профессионально развиваться. Летом 2014 года я в очередной раз по работе оказался на Black Hat. На одном из занятий по поиску уязвимостей в медицинских устройствах тренер показал результаты своего исследования возможности взлома конкретного типа устройств. Он, будучи диабетиком, жил с беспроводной инсулиновой помпой – небольшим устройством, что крепится к телу гипоаллергенным пластырем, настраивается через смартфон и самостоятельно вводит под кожу инсулин в течение дня. Так вот, он показал, что даже не очень опытный хакер может в теории обойти защиту помпы и ввести летальную дозу инсулина, имея все шансы избежать наказания за убийство. Я помню, что его вывод взорвал мне мозг. Именно в тот момент я понял, что вся эффектная реклама интернета вещей (Internet of Things, или IoT) лишь красочная ширма, а за ней скрываются проблемы, о которых никто не хочет говорить, ибо их решение требует крайне высокого уровня компетенций и массы усилий. Я был уверен, что вопросы киберзащиты в тех же медицинских девайсах стоят на первом месте; оказалось, это не так: программисты и маркетологи – это в большинстве своем представители разных биологических форм жизни из разных частей Галактики, они говорят на разных языках и редко способны понять друг друга. Маркетологи продают продукт, поэтому техническая лексика системных инженеров, изобилующая жаргонными словечками вроде «пентест» (проверка продукта на устойчивость к взлому), «багхантинг» (программа премирования фрилансеров-хакеров за найденные уязвимости), zero-day (невыявленная на стадии тестирования и неустраненная уязвимость в коде), их раздражает – они не хотят думать о проблемах, ибо их нельзя включить в рекламный буклет. Разработчиков же, в свою очередь, изрядно бесит терминология «маркетинговой воронки», «вау-эффектов» и «роста прибыли за счет снижения издержек», особенно в том случае, когда кибербезопасность с точки зрения издержек имеет меньшую важность, чем дизайн упаковки. От тяги маркетологов продавать сырые и недоработанные с точки зрения безопасности продукты у инженеров попросту коротит мозги.

Результат этой пропасти между мирами – постоянная битва за то, что важно при работе над продуктом. Поскольку департаменты продаж и маркетинга в компаниях де-юре отвечают за прибыль, то и споры о том, на что лучше тратиться, они выигрывают гораздо чаще. Технарей же просят не паниковать и фокусироваться в первую очередь на том, что пользователь видит каждый день. Это они и делают. Так и живем – все вроде бы хорошо выполняют свою работу, но по факту огромное количество дыр в кибербезопасности не уменьшается, а наоборот – растет.

После тренинга я начал более тщательно изучать вопрос безопасности IoT, пытаясь понять, насколько «дырявость» – повсеместное явление. Оказалось – куда ни плюнь, везде засада. Например, два эксперта по безопасности Чарли Миллер и Крис Валасек в июле 2015-го наглядно продемонстрировали, что не только беспилотные, но даже обычные автомобили потенциально крайне опасны: они смогли удаленно получить доступ к бортовому компьютеру новенького Jeep Cherokee и довести до истерики журналиста журнала Wired Энди Гринберга, который был за рулем и пытался сохранить самообладание в ситуации, когда его машину могли в любой момент отправить в кювет. Дырявая защита многих дронов-квадрокоптеров позволяет перехватывать управление и угонять их, игровые приставки и стриминговые сервисы ломали не раз, Apple и Microsoft рапортуют о новых устраненных уязвимостях практически каждый день… Хакеры не раз взламывали электрокардиостимуляторы для сердечников, демонстрируя возможность убийства их пользователя. Бывший вице-президент США Дик Чейни признался, что отключил беспроводной интерфейс своего кардиостимулятора еще в 2007 году, когда понял, что злоумышленники теоретически могут удаленно взломать его и убить. Подобная возможность была обыграна сценаристами в одном из эпизодов нашумевшего сериала «Родина». Но все это меркнет на фоне нашумевшего случая со взломом и выводом из строя центрифуг для обогащения урана в иранской ядерной программе при помощи кибероружия Stuxnet, обнаруженного в июне 2010-го. Вот уж где стало страшно – потенциал масштабной экологической катастрофы оказался в руках группы людей, удаленно нажимающих кнопки на клавиатуре, – никаких ракет или ударов с авианосцев, код работал тихо и незаметно.

Я изучал все эти и другие примеры, и оптимизм по поводу светлого будущего, априори присущий всем, кто работает в индустрии ИТ, начал постепенно сменяться пульсирующей тревогой. Стало очевидно, что мы к глобальному внедрению интернета вещей попросту не готовы – в мире огромное количество разрозненных стандартов и протоколов, в которых хакеры могут легко сверлить свои дыры; отсутствует поставленное на поток обучение высокоуровневых экспертов по кибербезопасности в нужных миру объемах, и, как следствие, ощущается их хроническая нехватка; распространена банальная лень или отсутствие нужной квалификации сисадминов, не закрывающих дыры в системах, даже когда о них хорошо и заранее известно.

Огромная недофинансированность индустрии защиты многократно демонстрируется на практике (затраты компании на маркетинг могут в тысячи раз превышать расходы на обеспечение безопасности существующих клиентов) – и все это безобразие происходит на фоне постоянной тотальной слежки за каждым пользователем сети через телефоны, сервисы и приложения с последующей продажей и перепродажей данных и поведенческих портретов (это не считая хакерских краж номеров кредитных карт, кредитных рейтингов и цифровых личностей). Как можно ситуацию, в которой человека в любой момент могут обворовать, отследить каждую его мысль, клик или перемещение, подделать его поведение или даже убить через дистанционно управляемое устройство, можно назвать светлым будущим?

До той роковой поездки на Black Hat я довольно много сил уделял попыткам обучения и оповещения пользователей сети об окружающих угрозах и потенциальных инструментах защиты. Но, глядя на взломанную инсулиновую помпу и представляя разрушенные ядерные центрифуги, я понял, что мои усилия, как и усилия многих коллег по индустрии, – это пшик, не более чем еле заметный шум в общем информационном пространстве: в мире тысячи экспертов по любому вопросу, в том числе по кибербезопасности, масса ток-шоу, блог-постов, призывающих что-то менять, но обычно дальше слов дело не идет. Ведь если у человека нет лично пережитого опыта, он много теоретизирует, но мало знает, а следовательно, грош цена такому мнению. Мне же захотелось реально что-то изменить – жизнь коротка, и надо потратить ее на то, что поможет нашим детям и внукам выжить. А если повезет – и пожить, помогая Вселенной развиваться, усложняться и совершенствоваться. И для этого мне мало было просто иметь мнение, нужен был личный опыт, нечто осязаемое, на своей шкуре испробованное.

Чтобы привлечь внимание к проблеме безопасности интернета вещей, управляющего им искусственного интеллекта и, что важнее, к практике абсолютного пренебрежения правом на неприкосновенность личного пространства в сети (оно же приватность), я решил пойти на радикальный шаг – стать частью интернета вещей, постоянно подключенным к сети человеком. То есть на себе испытать, с какими эмоциями будут ложиться спать наши навсегда интегрированные в сеть внуки. Для этого я решил вживить в руку биочип. Смысл такой же, как у высадки человека на Луну – до того, как Нил Армстронг ступил на серую пыльную поверхность спутника Земли, десятки тысяч ученых теоретизировали, как может выглядеть прогулка по Луне. У Нила не было своего мнения, у него появился реальный опыт, который перевешивал сотни тысяч гипотез теоретиков. Вот и я сегодня слушаю многие высказывания экспертов об IoT с изрядной долей здорового сарказма, потому что многие рассуждают об этих устройствах, думая и надеясь, что к их личной безопасности проблемы каких-то там инсулиновых помп, умных телевизоров или дронов отношения иметь не будут. Они видят только деньги. Я же знаю наверняка, что проблем море и они касаются каждого. Небольшой подкожный микрочип размером 2×12 миллиметра с антенной и памятью, упакованными в гипоаллергенное биостекло, открыл мне дорогу в Страну чудес Льюиса Кэрролла – чем глубже я падал в кроличью нору (больше узнавал), тем больше неизвестного мне открывалось.

Любопытно, что сама идея вживить биочип пришла немного незапланированно – после очередного глобального мероприятия по кибербезопасности я сидел в пабе с другом, шведом Повелом Торуддом, на тот момент главой европейской пресс-службы Kaspersky, обсуждая с ним проблемы индустрии. Я в тот момент возглавлял мобильный бизнес компании и международный маркетинг. Где-то к двум часам ночи, выпив по несколько пинт эля, мы, собственно, и осознали, что единственный способ получить действительно уникальное и действенное знание об интернете вещей – это приобрести личный опыт интеграции в него в качестве научного эксперимента. Мы на салфетках начали рисовать разные способы этой самой интеграции и под утро, когда в ход пошел уже 24-летний Macallan, идея с биочипом казалась мне совершенно гениальной.

Обычно такие ночные брейнстормы ни к чему конкретному не ведут, – уверен, в вашей жизни нетрезвые споры тоже случались, но в этот раз все пошло иначе: я проснулся полным уверенности в правильности выбранного пути, и мы начали действовать. Наметили место и время имплантации, выбрали чип из доступных технологий на рынке, продумали стратегию. Самым сложным было найти врача, который должен был согласиться имплантировать крипточип живому человеку. Изначально мы хотели сделать это в США, но все врачи крутили у виска и отказывались, ибо страховые риски ни одна компания на себя брать не была готова. И тогда… пришлось обратиться к помощи мексиканского мастера пирсинга, который послушал рассказ про нашу задачу, что-то долго считал и в итоге сказал: «Ммм, крипточип? Это будет дорого – 50 баксов, гринго». Вместо анестезии была предложена текила. С мастером пирсинга можно было начать эксперимент с минимумом проволочек и всего за $50 – мечта любого исследователя.

Сама процедура прошла очень легко – я заблаговременно проконсультировался с врачом и выяснил, что между большим и указательным пальцами находится очень мало нервных окончаний, поэтому при имплантации сюда не больно.

«Приказ 66», или Можно ли через биочип управлять человеком?

Мозг человека – это «черный ящик», к которому тянутся провода – от глаз, ушей, носа, языка и всех нервных окончаний на коже. Получая огромное количество информации на вход, мозг ее преобразует для начала в электрические импульсы (шестилетняя дочь одного моего друга искренне думала, что мозг понимает, чем пахнет клубника, потому что запах клубники через нос прямиком на мозг дует – не будем повторять ее ошибок ☺, а потом в некую мысленную картину, которую мы можем осознать. Очень важно понимать, что, когда вы кусаете банан, смотрите на закипающий чайник или прикасаетесь к клавиатуре ноутбука, ни банан, ни чайник, ни ноутбук не начинают вами управлять. Все человеческие органы чувств построены таким образом, что передают «на вход» в мозг очень ограниченный тип информации – только тот, что умеют. И каждый тип информации обрабатывается теми участками мозга, которые специализируются на строго определенных сигналах. Условно говоря, уши не могут вам передать изображение, а вкусовые рецепторы на кончике языка – пропеть концерт Вивальди. Когда речь идет о взаимодействии человека с любой современной электроникой, виды контакта ограничены; даже если ноутбук или телевизор вдруг захотят вам послать некий набор команд, ни ваша кожа, ни глаза, ни один из органов чувств не смогут этот поток расшифровать, понять и передать в мозг. Современные биочипы, например тот, что у меня в руке, гораздо примитивнее телевизора. В маленькую капсулу 2×12 миллиметра, состоящую из биостекла (по сути, это красивое название для прочного гипоаллергенного пластика), упакован небольшой модуль памяти (около 1 килобайта), шина ввода/вывода информации и антенна NFC, способная на частоте 13,56 мегагерц передавать информацию на чип и обратно. При этом аккумулятора у чипа нет и быть не может – в противном случае носителю (человеку) пришлось бы заряжаться от розетки хотя бы раз в день, – поэтому большую часть времени он спит летаргическим сном и ничего не делает. Он получает энергию непосредственно от прибора, с которым взаимодействует, – от электронного замка (который подключен к электросети помещения), от NFC-ридера смартфона (у которого есть батарейка), от ручки двери автомобиля (которая подключена к его аккумулятору). Без электричества в чипе нет жизни. Очень важен тот факт, что чип находится в изолированной капсуле и никакой связи с нервной системой человека не имеет и иметь не может. Может ли в таких условиях чип управлять человеком? Представьте, что вы купили новый iPad, а потом засунули его в дупло дерева. iPad уже начал управлять дубом? Конечно, нет! В природе все работает по законам физики. Современные биочипы очень примитивны. Я привел этот пример просто для наглядности, но в реальности человеческое тело на несколько порядков сложнее дерева, а чип на несколько порядков тупее, чем iPad, поэтому вопрос «может ли чип управлять человеком?» можно перефразировать скорее как «может ли тамагочи, зарытый в землю на метр, управлять планетой?».

Текущее инженерное состояние технологии помогает исследователям вроде меня понимать вектор его движения. Увидеть будущее – понять, как будут жить наши дети и внуки, когда отключиться от Сети уже будет невозможно просто потому, что на нее будет завязано почти все, а бумажных и старинных способов что-то сделать при помощи, например, паспорта, самолично придя в банк или отделение полиции, уже не останется. Многие из экспериментов абсолютно реальны – действительно, подкожная капсула способна заменить проездные, документы, ключи, пароли на сайтах и мобильных устройствах и еще много чего. И об этом в Сети лично мной написано огромное количество постов и даны тысячи интервью – честных, открытых. Но чего точно нельзя сделать при помощи биочипа – это контролировать волю и сознание человека. Для этого нужно найти способ подключиться к нервной системе «в обход» текущей схемы с руками, глазами и т. д. – напрямую к мозгу. А где у мозга розетка для подключения – мы, люди, пока не поняли. Так что опасаться тотального контроля при помощи чипирования не стоит, для этого используются не чипы, а нечто посильнее. И об этом мы поговорим в последующих главах.

Однако нельзя сказать, что сама возможность интеграции в организм некоторого чипа, который сможет изменить принципы ввода-вывода информации, абсурдна. Она, может, и казалась такой до появления Илона Маска. При его участии в 2016 году была основана компания Neuralink, которая специализируется на создании BMI (brain-machine interface), или «интерфейса между мозгом и машиной». Принцип работы этого нейроимпланта описан и находится в публичном доступе^[17]. Чип Neuralink – это уже совершенно другой класс устройств – первая версия представляла собой чип размерами 23×18,5 миллиметра с 3072 золотыми электродами, выполненными в виде очень тонких волосков и размещенными на 96 полимерных нитях. Новая версия, продемонстрированная в августе 2020 года, немного поменьше (23×18 миллиметра), но и количество электродов сократилось до 1024. Чип подключается напрямую к моторной коре мозга, что само по себе не ново и известно как электрокортикография. Принципиальная новизна заключается в роботизированной процедуре установки электродов. Сам Илон описывает процедуру так: «На затылке надо выпилить кусочек черепной коробки размером с чип Neuralink и это отверстие им закрыть, предварительно погрузив электроды в нужные участки мозга». Эта технология разрабатывается в первую очередь для того, чтобы в перспективе люди с травмами мозга и повреждениями центральной нервной системы (с болезнями Альцгеймера, Паркинсона, инсультами, параличом) могли полноценно коммуницировать с миром: во-первых, чип сможет стимулировать поврежденные участки мозга электрическими импульсами, близкими к натуральным, тем самым восстанавливая активность (в теории), а во-вторых, сможет дать человеку возможность силой мысли посылать информацию в сеть и (в теории) принимать информацию на вход – то есть чип Neuralink может стать еще одним органом восприятия входящих данных, наряду с глазами и ушами. В итоге, если у Neuralink получится, мы сможем полностью и навсегда избавиться от смартфонов, клавиатур и, если честно, необходимости говорить, ибо все вербальные коммуникации можно будет осуществлять мысленно и параллельно. Представьте, что мысленно отвечаете всем своим контактам в чате Telegram и читаете ответы без дисплея. И это только один пример применения технологии. Человек, может, с удовольствием переключится на такой интерфейс, но вопросов о безопасности, приватности и других – миллион.

Но даже в случае с чипом Neuralink никто не сможет удаленно захватить управление волей человека. Почему? Потому что те, кто хочет манипулировать нашими поступками, уже это делают.

После имплантации я почти немедленно раскланялся перед группой поддержки и мексиканским гуру пирсинга, дабы скорее отправиться в отель – мне не терпелось начать экспериментировать с чипом. Правда, ничего умнее, чем записать в его память фразу «Yes, androids do dream about electric sheep!» («Да, андроиды мечтают об электроовцах!») в качестве мысленного ответа культовому писателю-фантасту Филипу Дику, роман которого^[18] лег в основу культовой кинокартины про ИИ – фильма «Бегущий по лезвию», я в тот вечер не смог придумать. Просто потому, что реально нервничал, не знал, с чего начать, и одновременно подумывал взять ножик и выковырять чип из руки. Но я себя успокоил тем, что все новое и непонятное всегда сначала воспринимается как опасность и это чувство паники попросту надо пережить, тем более что в будущем бионические импланты будут повсеместно распространены (короче, пришлось еще раз напомнить себе, зачем я это делаю). Еще пришла забавная мысль, что таких людей, как я, всего 500 лет назад без всякой жалости сожгли бы на костре просто за сам факт наличия нестандартных мыслей или желаний.