Тоби Уолш
2062: время машин

Компьютеры делают больше, чем мы от них требуем

Компьютерное обучение стало причиной многих недавних технологических прорывов, связанных с ИИ. Оно позволило AlphaGo от Google победить лучших игроков в го на планете. В нем заключается секрет успеха переводчика Google. Оно породило множество программ, которые теперь лучше нас умеют диагностировать рак кожи или играть в покер.

Распространенное мнение относительно обучения машин заключается в том, что компьютеры могут делать только то, для чего они запрограммированы. И на элементарном уровне это действительно так. Компьютеры целиком и полностью детерминированы^[15].

Они следуют инструкциям, прописанным в их коде. Они не могут от них отклоняться. Однако на более глубоком уровне компьютеры способны делать вещи, для которых не запрограммированы. Они могут осваивать новые программы. Даже могут быть креативными. Как и мы, они учатся новому, основываясь на собственном опыте.

AlphaGo не была запрограммирована для того, чтобы обыгрывать в эту древнюю китайскую игру чемпионов мира. Она научилась это делать благодаря тому, что постоянно практиковалась. Она сыграла партий в го больше, чем человек способен сыграть за всю жизнь. И в процессе игры программа понемногу становилась креативной. Она использовала ходы, которых от нее не ожидали даже самые искусные мастера, открывала новые возможности для игры в го.

И пример AlphaGo – не исключение. Компьютеры теперь превосходят людей во многих играх, таких как короткие нарды, покер, скребл или шахматы. Если кто-то говорит мне, что компьютеры могут делать только то, для чего они запрограммированы, я обычно перечисляю десяток игр, в которых компьютеры уже стали чемпионами мира. Почти во всех подобных случаях программы были написаны средними игроками, а превосходство программы над людьми достигалось за счет ее обучаемости.

Преимущество машин

Для того чтобы понять, почему homo sapiens необратимо будут вытеснены, нужно осознать, как много преимуществ имеет компьютер по сравнению с человеком, а цифровой мир по сравнению с аналоговым. Колёрнинг – одно из таких преимуществ, но есть и другие.

Во-первых, компьютеры обладают куда большей запоминающей способностью, чем люди. Все, что мы помним, хранится внутри нашего черепа. Мы, несомненно, должны быть благодарны за тот размер черепа, который имеем. Еще совсем недавно деторождение было одной из главных причин женских смертей. Ширина родового канала все еще не позволяет нам иметь большие головы. У компьютера такой проблемы нет. Его память можно расширять бесконечно.

Во-вторых, компьютеры могут работать гораздо быстрее людей. Мозг работает со скоростью чуть меньше ста герц, а нейронам требуется около одной сотой секунды, чтобы передать сигнал. Наш мозг обладает одновременно химическими и электрическими свойствами, что только замедляет его работу. Для перемещения химических веществ и для осуществления реакций между ними нужно время. Компьютеры же ограничены только законами физики. Скорость их работы выросла с 5 МГц в 1981 году (то есть возможность выполнения пяти инструкций каждую миллионную долю секунды) до сегодняшних 5 ГГц (возможность выполнения пяти инструкций каждую миллиардную долю секунды). Однако скорость – не главный критерий оценки. Сама по себе она несильно выросла за последнее время. Компьютеры теперь работают быстрее, потому что могут совершать большее количество действий одновременно. Так же, как и человеческий мозг, компьютер способен выполнять несколько задач сразу. Как бы то ни было, преимущество в скорости, которое дает кремний по сравнению с биологией, остается.

В-третьих, человек, в отличие от компьютеров, имеет ограниченный источник питания. Наш мозг использует около 20 из 100 Вт, производимых взрослым человеческим телом^[16]. Эволюционное преимущество, которое дает нам ум, оправдывает вложение в мозг такого большого количества энергии из наших ограниченных запасов. Однако дело в том, что никакой дополнительной энергии для повышения мыслительных способностей у нас не остается. Среднестатистический ноутбук же может использовать до 60 Вт. В случае если потребуется бо́льшая мощность (или объем вычислений), можно просто использовать облачные сервисы. Семь миллиардов человеческих мозгов потребляют совместно около 14 ГВт. Для сравнения: компьютеры по всему миру уже используют в десять раз больше энергии. В частности, работа компьютеров сегодня составляет десять процентов от общего использования электричества, то есть более 200 ГВт. В дальнейшем эта цифра будет только расти.

Четвертое преимущество компьютеров заключается в том, что человеку нужен сон и отдых. Компьютеры же могут работать двадцать четыре на семь и не уставать. Как было отмечено ранее, AlphaGo стала так хорошо играть в го именно потому, что могла сыграть в эту игру больше раз, чем любой человек. Разумеется, сон для человека может быть полезен не только в качестве отдыха и восстановления сил. Он помогает освежить память, затрагивает проблемы на уровне подсознания. Кто знает, вдруг компьютерам это тоже будет полезно? Мы можем запрограммировать их так, чтобы они время от времени спали в течение дня.

Пятое преимущество компьютеров состоит в том, что они, в отличие от людей, не забывчивы. Подумайте, как часто мы тратим время на поиск потерянных вещей или забываем дни рождения. Это качество, конечно, может быть полезным: оно помогает нам не уделять внимания незначительным деталям. Однако запрограммировать компьютер на это также не составит никакого труда.

Шестое преимущество – человеческие эмоции, которые могут мешать процессу мышления. Компьютеры не испытывают эмоций и, следовательно, не могут быть сбиты ими с толку. С другой стороны, эмоции играют важную роль в нашей жизни и часто оказывают положительное влияние на процесс принятия решений. Вероятно, они имели значение в ходе эволюции. В будущем у нас появится возможность наделять компьютер эмоциями. Подробнее эта тема раскрывается в третьей главе вместе с другими важными темами, такими, например, как совесть.

В качестве седьмого преимущества можно назвать факт, обнаруженный нами ранее: люди ограничены в средствах и способах передачи знаний. Компьютеры же могут обмениваться кодами друг с другом без всяких ограничений. Если один компьютер научился переводить с китайского на английский, этот навык можно передать всем остальным компьютерам. Если один компьютер научился диагностировать меланому, этой способностью можно наделить все остальные машины. Компьютер – идеальное воплощение колёрнинга.

Восьмое преимущество заключается в том, что люди, на самом деле, довольно плохо умеют принимать решения. Мы достаточно развили этот навык, чтобы выжить, но несильно продвинулись дальше. Например, мы плохо высчитываем точные значения вероятностей. Если бы мы были в этом сильнее, то никогда бы не стали покупать лотерейные билеты. Компьютеры, однако, можно запрограммировать так, чтобы они добились в этом бо́льших успехов. Область поведенческой экономики изучает наши субоптимальные решения. К примеру, ситуации, в которых мы стремимся минимизировать расходы, вместо того чтобы увеличивать прибыль. Экономисты называют этот феномен «неприятие потерь». Существует много подобных примеров субоптимального поведения. Многие из нас боятся летать, хотя дорога на машине до аэропорта на деле куда опаснее. Мы знаем, что должны сбросить пару килограммов, но выбираем аппетитный пончик с джемом.

Разумеется, все не так однозначно. Компьютеры не во всем нас превосходят. В сравнении человек имеет пару серьезных преимуществ. Наш мозг все еще сложнее, чем самый мощный суперкомпьютер. Мы быстро учимся, невероятно креативны, обладаем эмоциональным интеллектом и способны к эмпатии. Однако есть повод для сомнений в том, что этими преимуществами мы будем обладать еще долго. Уже сейчас есть некоторые доказательства креативности компьютера, его способности испытывать эмоции и быть эмпатичным. В перспективе шансы homo sapiens победить в противостоянии с машинами не очень велики.

Наш преемник

Кто же тогда такой этот превосходящий нас homo digitalis, который заменит человека?

Вид определяется тем, что он собой представляет и в какой плоскости действует. Оба этих параметра в случае с homo digitalis будут перенесены в цифровой мир. Это будет наша цифровая версия. Компьютеры будут становиться умнее, мы будем перепоручать им все больше наших интеллектуальных задач. Мы освободимся от оков нашего сложного, нелепого и все-таки ограниченного мозга. Избавимся от тел, которые нуждаются в отдыхе и сне, разлагаются и умирают. Мы сможем наблюдать и действовать в нескольких местах одновременно. Мы будем сразу везде.

Homo digitalis будут гораздо умнее homo sapiens благодаря тому, что наш мозг будет помещен в цифровую среду. В конце концов, трудно будет отличить наши мысли от единого облачного разума ИИ. Homo digitalis избавятся от физической оболочки, будут одновременно биологическими и цифровыми существами. Мы будем жить одновременно в собственном мозгу и в общем цифровом пространстве.

Homo digitalis будут проводить совсем немного времени в медленном, сложном и опасном аналоговом мире. Со временем мы начнем жить и действовать исключительно в цифровом мире. После века климатических изменений, финансовых кризисов и терроризма он станет гостеприимным, правильным и хорошо организованным местом. Там не будет неопределенности, которая так часто осложняет нам жизнь в реальном мире. Не будет землетрясений или оползней. Никакой чумы. Все будет следовать точным и справедливым правилам. Homo digitalis будут хозяевами этой цифровой вселенной. В некотором смысле мы станем цифровыми богами.

Таков хороший сценарий – мы сами решим, как строить свое будущее. В этом смысле мы действительно можем быть богоподобны. Мы можем сделать этот цифровой мир будущего честным, справедливым и прекрасным. Или позволить тому, что правит современным миром, определить наше будущее, наполнить его неравенством, несправедливостью и страданиями. Выбор за нами. И делать его нужно уже сегодня.

Будущее не предопределено. Оно – результат тех решений, которые мы принимаем в настоящем. Однако кажется, что именно сейчас мы находимся на перепутье. Существует масса факторов, по вине которых мы можем оказаться на очень скользкой дорожке, ведущей к непростому и страшному миру.

Прямо сейчас у нас есть шанс принять такие решения, которые избавят человечество от подобного финала, направив его к светлому цифровому будущему. Некоторые из этих решений дадутся легко, некоторые – не очень. Они могут потребовать от нас ви́дения, решительности, самоотверженности и, возможно, даже самопожертвования.

Нам очень повезло: мы управляли этой планетой, этой удивительной зелено-голубой точкой, вращающейся вокруг ничем не примечательной звезды на небольшом рукаве Млечного Пути, последние несколько сотен тысяч лет. Ради наших внуков, которые будут в конце концов теми самыми homo digitalis, мы не должны испортить следующие несколько десятилетий.

Для кого эта книга?

Эта книга написана для всех, кому интересно, куда приведет нас ИИ. Здесь действительно есть над чем задуматься. Лишит ли ИИ людей работы, даже такой, которая требует креативности? Будет ли он обладать сознанием? Что появление ИИ значит для концепции свободной воли? Какими этическими качествами будет (или должен) обладать ИИ? Поможет ли он обществу или навредит? Изменит ли наше представление о себе? Какое влияние окажет на саму суть человечества?

Ответы на эти вопросы я буду давать по мере обсуждения социальных и этических аспектов нашего перехода в цифровой мир. Частично я буду опираться на тренды, которые заметны уже сегодня, и экстраполировать свои выводы на будущую ситуацию. Однако настоящее не определяет будущее раз и навсегда. Только решения, которые мы принимаем сейчас, сформируют мир далекого будущего. Поэтому я буду рассматривать как хорошие, так и плохие возможные варианты развития событий. От нас зависит, какой итог мы получим.

Эта книга сосредоточена на 2062 годе. В следующей главе я буду ссылаться на мнение большинства экспертов в сфере ИИ, которое заключается в следующем: существует пятидесятипроцентный шанс, что к этому времени мы создадим машины, способные мыслить так же, как мы. Возможно, эта дата чересчур оптимистична и нам придется ждать этого до 2220 года. Большинство экспертов считают, что с вероятностью в девяносто процентов дело обстоит именно так. Вне зависимости от конкретной даты, самое интересное начнется, когда компьютеры нас превзойдут.

Эта книга предназначена для интересующегося читателя, который тем не менее не является экспертом в данной области. В ней содержится парочка графиков, но нет никаких уравнений. Я не рассказываю здесь ни что такое ИИ, ни в каком он состоянии на данный момент. Если вам это интересно, читайте мою предыдущую книгу «Оно живое!». В примечаниях вы найдете ссылки, дополнительные объяснения и просто забавные наблюдения, но если вы их пропустите, то ничего не потеряете^[17]. Однако если вы хотите побольше узнать о технической стороне вопроса, примечания снабдят вас дополнительными подробностями и списком литературы по теме.

Философ Ник Бостром предположил в 2015 году, что «искусственный интеллект будет иметь большое значение, являясь, возможно, самой важной вещью из когда-либо созданных человечеством». Если он прав, то необходимо изучить, к каким последствиям это приведет.

2. Наш конец

Столетиями мы привыкали к мысли о том, что машины могут быть лучше нас. В прошлом, однако, только наши мышцы проигрывали конкуренцию машинам, способным выполнить больший объем физической работы, чем человек. В последние пятьдесят лет речь идет уже о нашем мозге – как минимум, если рассматривать точечные интеллектуальные задачи. К 2062 году борьба, вероятно, будет окончена. Homo digitalis победят.

Тот факт, что первый чемпион мира проиграл компьютеру почти сорок лет назад, кажется удивительным. 15 июля 1979 года чемпион мира по нардам Луиджи Вилла был повержен программой Ханса Берлинера BKG 9.8 со счетом 7:1. По горькой иронии судьбы Вилла был чемпионом мира всего один день до своего проигрыша компьютеру. Самый недавний подобный случай произошел в 1997 году, когда действующий чемпион мира по шахматам Гарри Каспаров проиграл компьютеру Deep Blue от компании IBM. Описывая свое поражение, Каспаров так представил будущее, которое ждет человечество: «Я играл со многими компьютерами, но ничего подобного никогда не испытывал. Я понимал, я мог почувствовать, что передо мной новый вид интеллекта. И, хотя я играл на пределе своих возможностей, у меня не было шансов; компьютер показал прекрасную, безупречную игру и легко выиграл»^[18].

Так же, как и разгром Виллы, поражение Каспарова было жестоким итогом. Он считался многими одним из величайших шахматистов за всю историю игры. В 1985 году, когда он впервые стал чемпионом мира, он был самым юным спортсменом, который добивался таких результатов. Спустя двадцать лет он покинул шахматы, но остался самым высокооцениваемым игроком. То есть самым высокооцениваемым игроком-некомпьютером. Очень жаль, что некоторые могут запомнить Каспарова только как первого чемпиона мира по шахматам, проигравшего компьютеру.

Компьютеры для игры в шахматы с тех пор сильно изменились. Ни Каспаров, ни действующий чемпион мира Магнул Карлсен не способны соперничать с лучшими из доступных программ. Каспаров, конечно, постарался бы победить мобильное приложение Pocket Fritz 4. Рейтинг Эло этой программы составляет 2898, тогда как максимальный рейтинг Каспарова – 2851^[19].

Когда программа пользуется бо́льшими вычислительными ресурсами, чем те, которые содержит мобильное устройство, у человека практически нет против нее шансов. Deep Fritz, который можно запустить на обычном компьютере, имеет рейтинг Эло 3150. Разница в триста очков между ним и Каспаровым означает, что вероятность победы российского шахматиста составляет один к пяти в отдельно взятой игре и стремится к нулю в длительном соревновании. Я как человек, обладающий гораздо более низким рейтингом Эло, не имею почти никаких шансов на победу в матче против Deep Fritz.

Но шахматы вовсе не пострадали от такого распределения сил. Наоборот, машины помогли развитию игры в нескольких направлениях. Теперь компьютеры дают профессиональные советы начинающим игрокам. Они также открыли нам новые ходы, о наличии которых мы, быть может, никогда бы и не догадались. Так что их господство в шахматах пошло на пользу самой игре.

Запуск всех систем

Март 2016 года – еще одна важная точка в истории ИИ. Именно тогда программа AlphaGo от компании DeepMind победила Ли Седоля, одного из лучших игроков в го на планете. Го – древняя и очень сложная китайская настольная игра, в которой нужно помещать черные или белые камешки на доску размером 19×19 так, чтобы захватить большую часть территории.

Го – гораздо более сложный случай, чем шахматы, по нескольким причинам. В шахматах существует двадцать возможных ходов в каждом отдельно взятом случае. В го таких ходов может быть около двухсот^[20]. В шахматах часто не так сложно определить, кто побеждает: за каждую фигуру на столе можно начислить определенное количество очков, и игрок с наибольшим количеством очков, вероятно, лидирует. В го же все фигурки одинаковы. Для того, чтобы определить, кто побеждает, нужно внимательно следить за тем, какую территорию занимает каждый из участников. Человеку требуются годы практики, чтобы научиться хорошо играть в го.

В мае 2017 года DeepMind убедительно доказала, что победа над Седолем в 2016-м не была одержана AlphaGo случайно. В матче на 1,8 миллиона долларов^[21] улучшенная версия программы победила китайскую легенду го Кэ Цзе, который впоследствии был назван лучшим игроком в мире.

Однако, несмотря на то что эти две победы значат очень много для развития ИИ, не стоит переоценивать их значимость. AlphaGo была специально разработана для игры в го. Потребовалось бы очень много усилий, чтобы приспособить ее для других игр, таких как, например, покер^[22]. Трудно представить, что те же техники, которые работают в AlphaZero (новейшая версия AlphaGo работает исключительно на основе знания правил игры), будут работать и в азартных играх. Разумеется, AlphaZero не способна водить машину, написать роман или перевести юридический документ.

Другое заблуждение может заключаться в том, что результат, которого достигла AlphaGo, появился ниоткуда, а потому указывает на некий «экспоненциальный» рост в сфере ИИ. На самом деле это не так. Это, несомненно, важное достижение DeepMind, привлекшее к себе столько внимания, заслуживает всяческих похвал. Однако, несмотря на то что AlphaGo предлагает некий новый способ соединения компонентов, сами компоненты остаются практически неизменными^[23].

До появления AlphaGo самой успешной компьютерной программой была CrazyStone, написанная Реми Куломом^[24]. В 2014 году Кулом сказал в интервью, что первая победа программы над профессиональным игроком состоится через десять лет. Однако AlphaGo потребовалось немногим больше года, чтобы победить Фэна Хуи, трехкратного чемпиона Европы, и еще один, чтобы победить Ли Седоля.

Так или иначе, DeepMind приложили больше всех усилий к решению этой задачи. Раньше программы для игры в го писались одним человеком; над AlphaGo работало около пятидесяти человек. Это заняло меньше одной десятой того времени, которое этот процесс должен был занять по мнению Кулома, но потребовало количество людей, превышающее предполагаемое более чем в десять раз.

DeepMind также имели доступ к обширным серверным фермам Google, которые позволили AlphaGo играть миллиарды раз против себя самой. Даже если бы человек всю жизнь не занимался ничем другим, кроме игры в го, он бы все равно не смог даже приблизиться к такому количеству партий. Из этого следует, что AlphaGo не так уж быстро учится. Люди, в отличие от подобных программ, могут научиться что-то делать, увидев это лишь единожды. Мы всё еще пытаемся создать ИИ, который мог бы учиться на основе такого маленького количества данных. Так что, несмотря на то что победы AlphaGo стали важным символическим моментом для ИИ, они не были таким прорывным достижением, каким его представляет для вас PR-отдел Google^[25].

Не только игры

Игры представляют для ИИ простую задачу. Обычно в них есть четкие правила, а победителя легко определить. Такие игры, как шахматы или го, обычно требуют от игрока незаурядных умственных способностей, а потому неудивительно, что для испытаний ИИ они подходят идеально.

Однако машины превзошли человека не только в играх. Мы наблюдаем, что компьютеры начинают работать эффективнее человека и в некоторых более прикладных областях. Например, в медицине компьютеры читают электрокардиограммы лучше врачей. В Стэнфордском университете команда под руководством Эндрю Ына, бывшего главы отдела исследований ИИ в Baidu, построила модель машинного обучения, которая может определить аритмию по электрокардиограмме лучше, чем квалифицированный врач.

Другой пример – рак. Команда Google применила машинное обучение для того, чтобы диагностировать рак груди по отчетам о патологии точнее, чем это способны сделать люди. Кроме того, это значительно ускоряет и удешевляет процесс. Третий пример: еще в 1980-е экспертная система PUFF диагностировала заболевания легких наравне с врачами в калифорнийской больнице. Искусственный интеллект уже делает наше здравоохранение лучше, быстрее и дешевле.

Компьютеры начинают обгонять людей и в деловой сфере. Возьмем, к примеру, фондовый рынок. BlackRock – самый крупный владелец активов в мире. Компания управляет более чем пятью триллионами долларов. Многие из активов уже контролируются алгоритмами. Компьютеры имеют серьезное преимущество в этом поле деятельности перед людьми: они могут проанализировать огромный объем данных. Способны выполнять задачи, которые не под силу нам: заниматься мониторингом спутниковых данных с парковок магазинов или анализировать интернет, чтобы предсказать объем продаж и экономический рост.

Другая область, которую подчиняют себе компьютеры, – страхование. В Японии компания Fukoku Mutual Life Insurance теперь обрабатывает выплаты с помощью Watson, искусственного интеллекта от IBM. Как только компания начала пользоваться ИИ, она сократила тридцать четыре сотрудника, которые раньше выполняли эту работу. Сейчас она рассчитывает с помощью ИИ экономить около миллиона долларов в год.

Теперь обратимся к юридической сфере. Различные стартапы вроде Luminance могут автоматически обрабатывать огромные и неупорядоченные объемы данных, чтобы помочь юристам проводить экспертизу по контрактам. Программа может найти несоответствия вдвое быстрее людей. Более того, благодаря программе отныне для выполнения этой задачи не нужно обладать такой высокой компетенцией.

Подобные случаи применения ИИ уже меняют многие профессиональные области. Сложно представить, что какой-то сектор экономики останется нетронутым к 2062 году.