Шошана Зубофф
Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти

Нижеследующее описание представлено с тем, чтобы дать возможность специалистам в данной области воплотить в жизнь данное изобретение и воспользоваться им <…> Специалистам в данной области будут очевидны различные модификации раскрытых нами способов реализации^[172].

Крайне важно для нашей истории замечание авторов заявки о том, что наиболее серьезные трения будут связаны не с техническими, а с социальными аспектами этих технологий. Трения возникнут, если пользователи намеренно откажутся предоставлять информацию, просто потому, что не хотят этого делать. «К сожалению, информация профиля пользователя не всегда доступна», предупреждают ученые. Пользователи не всегда станут «добровольно» предоставлять информацию, и «профиль пользователя может быть неполным <…> и, следовательно, не достаточно всесторонним из соображений конфиденциальности и т. п.»^[173]

Одна из явных целей патента состоит в том, чтобы заверить аудиторию, что осуществление пользователями прав на принятие решений в отношении их персональной информации не остановит ученых Google, несмотря на то что подобные права были неотъемлемой частью первоначального общественного договора между компанией и ее пользователями^[174]. Даже когда пользователи предоставляют сведения о профиле пользователя, предупреждают изобретатели, «они могут быть преднамеренно или непреднамеренно неточными, они могут устаревать <…> UPI пользователя <…> могут быть определены (или обновлены или дополнены), даже когда сведения не передаются в систему в явном виде <…> Первоначальные UPI могут включать намеренно введенные пользователем сведения о профиле, хотя это и не обязательно»^[175].

Таким образом, ученые ясно дают понять, что они готовы – и что их изобретения способны – преодолеть трения, связанные с правами пользователей на принятие решений. Запатентованные Google методы позволяют ему отслеживать, собирать, расширять, конструировать и присваивать поведенческие излишки, включая данные, которые пользователи сознательно отказываются передавать. Непокорность пользователей не станет препятствием для экспроприации данных. Никакие моральные, правовые или социальные ограничения не помешают обнаружению, присвоению и анализу поведения других в коммерческих целях.

Авторы изобретения приводят примеры видов атрибутов, которые Google мог бы заполнять при составлении своих наборов данных UPI без ведома и согласия пользователей и в обход их явных намерений. К ним относятся список посещенных веб-сайтов, психографические данные, активность в интернете и информация о предыдущих рекламных объявлениях, которые пользователь просмотрел, выбрал и/или совершил покупки после их просмотра^[176]. Это длинный список, который сегодня, безусловно, стал еще длиннее.

В конце авторы патента упоминают еще одно препятствие для эффективного таргетирования. Даже когда сведения о пользователе существуют, говорят они, «рекламодатели могут оказаться не в состоянии использовать эту информацию для эффективного таргетирования рекламы»^[177]. Представленное в этом патенте изобретение, вместе с другими, с ним связанными, – способ публично заявить об уникальных преимуществах Google в области поиска, захвата и преобразования излишков в прогнозы, пригодные для точного таргетирования. Ни одна другая фирма не может сравниться с ним по широте доступа к поведенческому излишку, уровню научного и технического персонала, вычислительным мощностям или инфраструктуре хранения данных. В 2003 году только Google мог извлекать поведенческий излишек сразу из многих точек приложения человеческой деятельности и интегрировать каждую новую порцию этих данных в комплексные «структуры данных». С его передовыми достижениями в области компьютерных исследований Google находился в уникальном положении, чтобы преобразовать эти данные в прогнозы о том, кто и по какому объявлению щелкнет мышкой, и на этой основе предложить итоговый «поиск соответствий», и все это в мельчайшие доли секунды.

Говоря простым языком, изобретение Google открыло новые возможности для выводов о мыслях, чувствах, намерениях и интересах отдельных лиц и групп с помощью автоматизированной архитектуры, которая действует как прозрачное с обратной стороны зеркало, независимо от осведомленности и согласия человека, тем самым создавая тайный привилегированный доступ к поведенческим данным.

Одностороннее зеркало воплощает специфические социальные отношения надзора, основанные на асимметрии знания и власти. Новый способ накопления, изобретенный в Google, имел своим источником, прежде всего, волю и способность фирмы навязывать своим пользователям эти социальные отношения. Воля была мобилизована тем, что учредители компании рассматривали как чрезвычайное положение; способность появилась благодаря ее фактическому успеху в использовании привилегированного доступа к поведенческому излишку с целью предсказания поведения отдельного человека прямо сейчас, чуть позже или в более отдаленном будущем. Полученная таким образом возможность заглянуть в будущее стала бы конкурентным преимуществом всемирно-исторического масштаба на новом рынке, где оцениваются, покупаются и продаются беспроигрышные ставки на поведение конкретных лиц.

Google больше не будет пассивным получателем случайных данных, которые он может перерабатывать в интересах своих пользователей. Рассмотренный нами патент на таргетированную рекламу проливает свет на путь, который прошел Google от своих истоков, когда он отстаивал интересы пользователей, до установления надзора за пользователями как полноценной логики накопления. Само это изобретение раскрывает нам цепочку рассуждений, которая привела к тому, что цикл реинвестирования поведенческой стоимости был поставлен на службу нового коммерческого расчета. Поведенческие данные, стоимость которых ранее «уходила» на повышение качества поиска для пользователей, теперь стали основным – и при этом доступным исключительно Google – сырьем для создания динамичного рынка онлайн-рекламы. Теперь Google будет добывать больше поведенческих данных, чем нужно для обслуживания пользователей. Этот излишек, поведенческий излишек, был тем качественно новым и бесплатным ресурсом, который был перенаправлен с улучшения обслуживания на подлинный и очень прибыльный рыночный обмен.

Эти возможности были и остаются непостижимыми ни для кого, кроме узкой элиты специалистов по данным, среди которых представители Google – раса сверхлюдей. Они действуют скрытно и безразличны к социальным нормам или чьим бы то ни было притязаниям на самостоятельное принятие решений. Эти шаги создали основополагающие механизмы надзорного капитализма.

Чрезвычайное положение, объявленное основателями Google, превратило юного доктора Джекила в могучего и безжалостного мистера Хайда, полного решимости настичь добычу где угодно и когда угодно, не считаясь со свободно выбранными целями других людей. Новый Google игнорировал притязания на самоопределение и не признавал априорных ограничений на то, что он может найти и взять. Он отвергал моральное и юридическое содержание индивидуальных прав на принятие решений и переопределил эту ситуацию как технологический оппортунизм и одностороннюю власть. Этот новый Google заверяет своих подлинных клиентов, что сделает все возможное, чтобы превратить естественную неопределенность человеческого желания в научный факт. Этот Google – сверхдержава, которая устанавливает свои собственные ценности и преследует свои собственные цели, стоящие над и вне общественных договоров, которыми связаны остальные.

V. Излишек масштабируется

Были и другие новшества, которые помогли выдвинуть поведенческий излишек на первый план в коммерческой деятельности Google, например его инновации в ценообразовании. Первая новая метрика ценообразования была основана на «показателе кликабельности» (CTR), или на том, сколько раз пользователи кликнут по ссылке на веб-страницу рекламодателя, вместо того чтобы брать за основу количество просмотров объявления. Кликабельность рассматривалась как верный признак релевантности для пользователя и, следовательно, как мера успешности таргетирования – операциональный результат, который строится на поведенческом излишке и отражает его ценность.

Эта новая ценовая политика создала постоянно растущий стимул для увеличения поведенческого излишка, чтобы постоянно повышать эффективность прогнозов. Более точные прогнозы напрямую вели к увеличению количества переходов и, следовательно, к выручке. Google научился новым способам проведения автоматических аукционов для таргетирования объявлений, которые дали возможность в короткие сроки наладить применение нового изобретения в больших масштабах, позволяя одновременно обслуживать сотни тысяч рекламодателей и проводить миллиарды (а позже и триллионы) аукционов. Уникальные методы и возможности аукциона Google привлекли немало внимания, что отвлекло наблюдателей от мыслей о том, что же именно продавалось на аукционе, – а это были производные поведенческого излишка. Показатели кликабельности институционализировали «потребительский» спрос на эти коммерческие прогнозы и, таким образом, определяли центральное значение эффекта масштаба в операциях поставок поведенческого излишка. Чтобы новую логику ждал успех, захват излишка должен был осуществляться автоматически и повсеместно и измеряться успехом торговли поведенческими фьючерсами.

В дополнение к аукционным ставкам самих рекламодателей цену объявления и его конкретную позицию на странице помогал определять другой ключевой показатель, названный показателем качества (quality score). Показатель качества частично зависел от показателя кликабельности и частично от результатов анализа поведенческого излишка. «Показатель кликабельности должен был что-то предсказывать», – настаивал один высокопоставленный менеджер, а для этого требовалась «вся информация о поисковом запросе, которая у нас была на тот момент»^[178]. Для создания эффективных прогнозов поведения пользователя, которые стали критериями для оценки актуальности рекламы, требовались колоссальные вычислительные мощности и передовые программы-алгоритмы. Объявления с высокими показателями должны продаваться по более низкой цене, чем объявления с низкими. Клиенты Google – рекламодатели – жаловались на то, что показатель качества был для них черным ящиком, и Google не собирался отказываться от этой политики. Тем не менее, когда клиенты подчинялись правилам игры и производили высокоэффективную рекламу, их показатели кликабельности подскакивали.

AdWords быстро стал настолько успешным, что вдохновил на значительное расширение логики надзора. Рекламодатели требовали больше кликов^[179]. Ответ заключался в том, чтобы расширить модель за пределы поисковых страниц Google и преобразовать весь интернет в огромную доску объявлений таргетированной рекламы Google. Это потребовало применения новоприобретенных навыков Google по «извлечению и анализу данных», как выразился Хэл Вэриан, к содержанию любой веб-страницы или к любому действию пользователя с использованием быстро растущих возможностей Google в области семантического анализа и искусственного интеллекта, чтобы эффективно «выжимать» из них смысл. Только тогда Google сможет точно оценить содержание страницы и то, как пользователи взаимодействуют с этим контентом. Эта «контентно ориентированная реклама», основанная на запатентованных Google методах, в итоге получила название AdSense. К 2004 году AdSense, по оценкам, вышел на миллион долларов в день, а к 2010 году приносил выручку, составляющую более 10 миллиардов долларов в год.

Налицо была беспрецедентная и прибыльная комбинация: поведенческий излишек, наука о данных, материальная инфраструктура, вычислительная мощность, алгоритмические системы и автоматизированные платформы. Эта конвергенция породила беспрецедентную «актуальность» и миллиарды аукционов. Показатели кликабельности взлетели до небес. Работа над AdWords и AdSense стала считаться не менее важной, чем работа с собственно поиском.

Когда показатель кликабельности закрепился в качестве идеальной меры актуальности рекламы, то поведенческий излишек был тем самым утвержден в качестве краеугольного камня нового вида торговли, который зависел от масштабного онлайн-надзора. Инсайдеры называли новую науку Google о поведенческом прогнозировании «физикой кликов»^[180]. Для овладения этой новой сферой требовалась особая порода физиков по кликам, которые обеспечили бы первенство Google в зарождающейся элите поведенческого прогнозирования. Значительный приток доходов привлек в фирму величайшие умы нашего времени, работающие в таких областях, как искусственный интеллект, статистика, машинное обучение, наука о данных и прогнозная аналитика, и объединил их усилия по предсказанию человеческого поведения, отражаемому показателями кликабельности: это был бизнес гадалки компьютерной эпохи. В качестве патриарха этого авангарда прорицателей и этой еще молодой науки фирма привлекла авторитетную фигуру в области информационной экономики и консультанта Google с 2001 года – избранным пастырем этой секты стал Хэл Вэриан.

Пейдж и Брин пошли на принятие рекламной модели неохотно, но, по мере того как накапливалось все больше свидетельств, что реклама может спасти компанию от кризиса, их отношение изменилось^[181]. Спасение компании означало и спасение их самих от участи очередных умных парней, которые не смогли придумать, как сделать реальные деньги, мелких игроков в глубоко материальной и конкурентной культуре Кремниевой долины. Пейджа преследовал пример блестящего, но бедного ученого Николы Теслы, который умер, так ничего и не заработав на своих изобретениях. «Надо уметь что-то большее, чем просто изобретать то и сё», – размышлял Пейдж^[182]. У Брина были свои вариации на эту тему: «По правде сказать, еще во времена бума доткомов я чувствовал себя дураком. У меня был интернет-стартап – но они были у всех. И как у всех, он не приносил прибыли»^[183]. Чрезвычайно серьезная угроза их финансовому и социальному статусу, похоже, пробудила в Пейдже и Брине инстинкт самосохранения, который потребовал чрезвычайных ответных мер^[184]. Ответом основателей Google на страх, парализовавший их сообщество, по сути, стало объявление «чрезвычайного положения», сопровождавшееся приостановкой действия тех ценностей и принципов, которые стояли у истоков Google и которыми руководствовалась корпорация в первые годы своего существования.

Позже Мориц из компании Sequoia вспоминал кризисные условия, которые спровоцировали «гениальное» переизобретение фирмой самой себя, когда кризис создал развилку на пути и повел компанию в совершенно новом направлении. Он подчеркивал специфичность изобретений Google, их связь с чрезвычайными обстоятельствами и поворот на 180 градусов от обслуживания пользователей к надзору за ними. Самое главное, он назвал ключевой, по его мнению, источник открытия поведенческого излишка как актива, меняющего правила игры, который превратил Google в гигантскую гадалку, указав на революционное преобразование Google модели Overture, когда молодая компания впервые применила свою аналитику поведенческого излишка, чтобы предсказать вероятность клика:

Первые 12 месяцев Google были не из легких, потому что компания начинала не в том бизнесе, к которому она в конечном счете примкнула. Сначала она шла в другом направлении, а именно продавала свою технологию – продавала лицензии на свой поисковик более крупным интернет-ресурсам и корпорациям… Первые шесть-семь месяцев деньги улетали в трубу с устрашающей скоростью. И затем, совершенно гениально, Ларри <…> и Сергей <…> и другие стали присматриваться к модели, которую, они видели, развивает та другая компания, Overture, а именно ранжирование рекламы. Они увидели, как это можно улучшить и усовершенствовать, освоили это, и это изменило их бизнес^[185].

Из размышлений Морица следует, что без обнаружения поведенческого излишка и обращения к надзорным операциям, при «устрашающем» уровне расходов, Google долго бы не продержался, и само выживание фирмы было под вопросом. Мы никогда не узнаем, чем мог бы стать Google, если бы не было объявлено чрезвычайное положение, вызванное кризисом нетерпеливых денег, наложивших свой отпечаток на эти критические годы развития. Какие другие пути к устойчивому доходу можно было исследовать или придумать? Какие альтернативные варианты будущего могли быть вызваны к жизни, чтобы сохранять верность принципам основателей и правам их пользователей на самоопределение? Вместо этого Google выпустил на волю новую инкарнацию капитализма, открыв ящик Пандоры, содержимое которого мы только начинаем понимать.

VI. Человеческое изобретение

Ключевой для нашего разговора факт состоит в следующем: надзорный капитализм был изобретен конкретной группой людей в конкретный момент времени и в конкретном месте. Это не неизбежное следствие цифровых технологий или необходимое выражение информационного капитализма. В какой-то момент он был сознательно создан, во многом так же, как массовое производство было изобретено инженерами и другими работниками Ford Motor Company в Детройте в 1913 году.

Генри Форд намеревался доказать, что сможет максимизировать прибыль, увеличив объемы, радикально снизив затраты и расширив спрос. Это было недоказанное коммерческое уравнение, для которого не существовало ни экономической теории, ни практики. Фрагменты этой формулы всплывали и раньше – на мясокомбинатах, на мукомольных предприятиях, на швейных и велосипедных фабриках, на оружейных, консервных и пивоваренных заводах. Существовал определенный и растущий объем практических знаний о взаимозаменяемости деталей и абсолютной стандартизации, точных станках и непрерывном производстве. Но никто не создал той великой симфонии, которую услышал в своем воображении Форд.

Как об этом рассказывает историк Дэвид Хауншелл, было время, 1 апреля 1913 года, и место, Детройт, когда первая движущаяся сборочная линия казалась «просто еще одним шагом многолетнего развития компании Ford, и в то же время чем-то неожиданно свалившимся с небес. Еще до конца того дня некоторые инженеры почувствовали, что они совершили фундаментальный прорыв»^[186]. В течение года прирост производительности по заводу варьировался от 50 % до десяти раз, в сравнении со старыми методами стационарной сборки^[187]. Модель T, которая в 1908 году стоила 825 долларов, в 1924 году продавалась по рекордно низкой для четырехцилиндрового автомобиля цене, всего за 260 долларов^[188].

Как и в случае с Ford, некоторые элементы экономической логики онлайн-надзора работали годами, оставаясь известными лишь узкой группе первых компьютерных экспертов. Например, программный механизм, известный как «cookie» – фрагменты кода, позволяющие передавать информацию между сервером и клиентским компьютером, – был разработан в 1994 году в Netscape, первой коммерческой компании, занимавшейся веб-браузером^[189]. Аналогично «веб-маячки» – крошечные (часто невидимые) графические элементы, встроенные в веб-страницы и электронную почту и предназначенные для отслеживания активности пользователей и сбора личной информации – были хорошо известны специалистам в конце 1990-х годов^[190].

Эти специалисты были глубоко обеспокоены последствиями подобных способов мониторинга для конфиденциальности, и, по крайней мере в случае с файлами cookie, предпринимались организационные усилия по разработке интернет-политик, которые запрещали бы основанные на cookie агрессивные действия по отслеживанию и профилированию пользователей^[191]. К 1996 году функция cookie стала одной из спорных проблем, обсуждаемых на государственном уровне. На семинарах Федеральной торговой комиссии в 1996 и 1997 годах обсуждались проекты, в рамках которых с помощью простого автоматизированного протокола контроль над всей личной информацией по умолчанию передавался пользователю. Рекламодатели горячо оспаривали эту схему; вместо этого, чтобы предотвратить государственное регулирование, они скооперировались, образовав «саморегулируемую» ассоциацию, известную как «Инициатива по сетевой рекламе». Тем не менее в июне 2000 года администрация Клинтона запретила использование файлов cookie на всех федеральных веб-сайтах, и к апрелю 2001 года три законопроекта, находившихся на рассмотрении конгресса, включали в себя положения, регулирующие использование файлов cookie^[192].

Google вдохнул новую жизнь в эти практики. Как это произошло и в Ford столетием ранее, дирижерами, руководившими первым исполнением коммерческой симфонии надзора, стали инженеры и ученые компании, которые интегрировали широкий спектр механизмов, от файлов cookie до проприетарных аналитических и алгоритмических программных возможностей, в единые рамки новой радикальной логики, сделавшей надзор и одностороннюю экспроприацию поведенческих данных основой для новой формы рынка. Воздействие этого изобретения было не менее драматичным, чем в случае с Ford. В 2001 году, когда Google тестировал новые системы для использования открытого им поведенческого излишка, выручка компании выросла до 86 миллионов долларов (более чем 400-процентный рост по сравнению с 2000 годом) и компания получила первую прибыль. К 2002 году деньги потекли рекой – убедительное доказательство того, что поведенческий излишек в сочетании с проприетарной аналитикой Google безошибочно достигает своей цели. Выручка взлетела до 347 миллионов долларов в 2002 году, затем до 1,5 миллиардов долларов в 2003 году и до 3,5 миллиардов долларов в 2004 году, когда компания стала публичной^[193]. Открытие поведенческого излишка породило ошеломительный рост выручки на 3590 % менее чем за четыре года.