Борислав Козловский
Максимальный репост. Как соцсети заставляют нас верить фейковым новостям
Ковалев терпеливо объясняет: «Как вы уже наверняка догадались, если регулярно читаете “Лапшеснималочную”, если в заголовке российского издания написано что-то в духе “западные СМИ”, то, скорее всего, это никакие не СМИ (а бывает, что и не западные вовсе). Так и тут»{18}. В этот раз за СМИ выдают франкоязычную блог-платформу AgoraVox, нечто вроде «Живого журнала», где опубликоваться может кто угодно. Первоисточником этой конкретной записи про «гениальный ход Путина» оказывается человек, который представляется так: «Сестра Мария Тереза – 73-я Сорча Фаал Ордена Сорча Фаал, избранная Матерью-Настоятельницей 3 февраля 2007 года».
* * *
Ковалеву чуть больше тридцати, у него непропорционально большая коротко стриженная голова, он в хипстерском кардигане и темной рубашке в крупный горошек. Послушать его в небольшой зал «Редакции» набилось человек пятьдесят, и большинству приходится все полтора часа стоять на ногах.
«Кто из вас журналист – поднимите руки», – просит Ковалев у аудитории, и становится ясно: журналистов здесь минимум половина. Ковалев радуется, что хотя бы не все: «Есть такое английское выражение – читать проповедь церковному хору». Пропаганду и подтасовки государственных СМИ обсуждают давно, активно и даже яростно – но только внутри журналистского цеха. И Ковалев пытается сделать так, чтобы эта информация добралась наконец-то до широкой публики.
Проект «ИноСМИ.ру», когда Ковалев его возглавлял, и сам был чем-то вроде «проповедей церковному хору» – скорее «би-ту-би», business-to-business, чем «би-ту-си», businessto-consumer. Сайт был инструментом для журналистов, политиков и аналитиков, которым критически важно знать, какой представляется страна снаружи. Та аудитория состояла из придирчивых скептиков – требовала авторитетных первоисточников и выверенного перевода. Поэтому для Ковалева по возвращении стало сюрпризом, что государственные телеканалы вдруг стали активно ссылаться на мнение неизвестных ему «западных СМИ», обращаясь к менее критичным телезрителям. «Западные СМИ рассказали о превосходстве Путина над лидерами крупных держав». «Западные СМИ прочат Владимиру Путину величайший дипломатический триумф». И каждый раз при ближайшем рассмотрении оказывалось, что СМИ, где «прочат» и «обсуждают гениальный ход» – это или газета каких-нибудь коммунистов штата Висконсин, или блог сумасшедшего профессора. Но в телевизоре об этой детали обычно умалчивают.
Картина вроде бы простая и даже черно-белая: телевизор врет – а интернет его разоблачает. Но не все так просто. Ковалев с удивлением обнаружил, что неправду по ТВ подпитывает невидимая пищевая цепочка в интернете: ее звенья – и коммерческие сайты фальшивых новостей, которые притворяются СМИ ради заработка, как World News Daily Report в США, и успешные развлекательные сайты с многомиллионной аудиторией, и даже интернет-страницы самых настоящих региональных газет. Для чего это нужно? Прежде всего, для многоэтапной отмывки новостей перед тем, как они попадут в телевизор.
После того, как в 2014 году над Донбассом был сбит «Боинг» авиакомпании Malaysia Airlines с 298 пассажирами на борту (по данным международного расследования, он был сбит из российского зенитного ракетного комплекса «Бук» повстанцами), российские государственные СМИ цитировали Twitter загадочного испанского авиадиспетчера, который якобы работал в аэропорту и видел идущие на перехват «Боинга» украинские истребители. Появление такой записи в Twitter – факт, и в этом смысле новости не лгали. Человек, которому аккаунт принадлежал, был найден и даже дал интервью телеканалу RT. Другое дело, что ни в одном реестре диспетчер с таким именем не значился, а герой интервью, как выяснилось позже, действительно оказался испанцем – но только никак не связанным с авиацией и судимым за мошенничество{19}. Но формально неправда родилась в интернете, а ТВ честно преподнесло ее как мнение конкретного человека.
* * *
Любимая история Ковалева – судьба новости под заголовком «96 % читателей американской газеты за Путина»{20}. Сюжет вышел в эфире программы «Вести» на федеральном канале «Россия-24»: тележурналисты цитировали не какое-нибудь выдуманное СМИ, а главное в стране информагентство «РИА Новости». Там, в свою очередь, ссылаются на опрос газеты New York Daily News. Такая газета на самом деле есть – пусть даже это и не издание уровня New York Times, а таблоид с историями про скандалы в жизни звезд. Наконец, на сайте газеты во время сессии Генеральной Ассамблеи ООН действительно опубликовали ссылку на опрос «Кто был убедительней, Путин или Обама?» – и по результатам голосования 34 000 человек Путин действительно обошел президента США с результатом в 96 % против 4 %.
Все сходится, где же здесь неправда? У себя на сайте Ковалев размещает скриншоты комментариев, которые «96 % американцев» оставляли прямо под страницей с голосованием: «Вовка, жми. Копченый сливается» и «Амеров на их же земле нагнули», – на чистом русском пишут они. Ковалев объясняет: «Ссылку на это голосование – которую читатели New York Daily News проигнорировали, потому что на Путина им наплевать – запостили на Yaplakal.com, и там 34 000 голосов накрутили за час». «ЯПлакалъ» – российский развлекательный ресурс, где обсуждают «приколы»: смешные видео с ДТП, фото удивленных собак и российских танков, а также «истории из жизни», где менеджер младшего звена меткой фразой ставит на место начальство. «Нас 6 миллионов», – гордо сообщает Yaplakal.com своей аудитории про ее численность, так что 34 000 проголосовавших – что-то около 0,5 % от этого числа.
«Многие ресурсы – и тот же самый Yaplakal – стали оплотом патриотической общественности. Такие развлекательные сайты собирают сотни тысяч уников[3] в день, репостя смешные картинки из Сети. На них, конечно, сразу обратили внимание – и начали последовательно захватывать», – объясняет Ковалев тактику людей, которые увидели во вроде бы аполитичном развлекательном секторе интернета отличную площадку для пропаганды. И поначалу даже переусердствовали: «В какой-то момент там не было никого, кроме ботов, которые говорили сами с собой и получали какую-то копейку за каждый пост. Все условно нормальные люди ушли, потому что там делать нечего среди бесконечного потока алармистских и триумфалистских постов».
В день написания этого текста самая свежая запись на сайте называлась по-военному просто «Начни тотальный конфликт» – хотя это всего-навсего реклама компьютерной игры: на анимированной заставке российский танк-амфибия преодолевает пески пустыни и рассекает волны моря. Следующий пост, под заголовком «СССР 1985 год» – про славное советское прошлое: идиллические цветные летние фото трамваев и майских флагов с солнечных улиц без рекламы. Ниже – опять война: «Вежливые люди в Сирии, часть 2» и «Таран: последний довод или смелый маневр».
* * *
Когда телевизионщики выхватывают из потока только те новости, которые решают их задачи, или когда захватывают крупный развлекательный сайт – все понятно. Может быть, если вы не смотрите телевизор и не заглядываете на «ЯПлакалъ», все это не про вас?
Другими словами: можно ли спать спокойно, пока пропагандисты не выкупили 100 % акций компании Facebook? В конце концов, интернет большой, и у фальшивых новостей тысячи источников, которые распространяют их не сговариваясь. Допустим, неправда действительно проникает к вам в ленту – и, допустим, вы не всегда ее распознаете. (Опрос, который устроил британский телеканал Channel 4, показал{21}: только 4 % британцев безошибочно отличают фальшивые новости от настоящих. Остальные 96 % где-нибудь да ошибаются.) Но если вас со всех сторон бомбардируют маленькими порциями информации за и против, то можно рассчитывать, что суммарное воздействие на вашу картину мира будет нулевым.
Или все-таки мы беззащитны перед пропагандой и в соцсетях, где вроде бы сами выбираем, что читать, а что нет? Об этом – глава 2.
Краткое содержание главы 1
1. Хотя плохая журналистика существует давно, фальшивые новости – свежее изобретение.
Реальной силой их сделали соцсети.
2. Вероятность репоста у неправды на 70 % выше, и она распространяется в шесть раз быстрее правды.
3. Кто главные распространители? Не «тысячники» и «десятитысячники», а непопулярные пользователи.
Потому что им это нужнее.
4. Сочинять фейковые новости прежде всего выгодно – причем деньги платят не политтехнологи. Это просто самый дешевый контент и источник кликов для сайта-однодневки, где крутят коммерческую рекламу.
5. Крупные СМИ редко производят фальшивые новости сами, но часто встраивают их в цепочку по многоэтапному отмыву информации.
6. 96 % участников опроса, который устраивал крупный британский телеканал Channel 4, не справились с задачей отличить фейковую новость от настоящей.
Глава 2
Старая и новая пропаганда
Как работала пропаганда в Руанде в 1994 году и как она работает в Facebook сейчас
Учитывая, что в связи с обстоятельствами военного времени радиоприемники и передатчики могут быть использованы вражескими элементами в целях, направленных во вред Советской власти, Совет Народных Комиссаров Союза ССР постановляет: 1. Обязать всех без исключения граждан, проживающих на территории СССР и имеющих у себя радиоприемники (ламповые, детекторные и радиолы), в пятидневный срок сдать их органам Наркомата связи по месту жительства.
Постановление политбюро ЦК ВКП (б)«О сдаче населением радиоприемных и передающихустройств», 25 июня 1941 года
Эта форма психологического массового воздействия может быть использована, чтобы помочь людям принимать лучшие решения и жить более здоровой и счастливой жизнью.
Михаил Косинскиавтор алгоритмов компании Cambridge Analytica, научная статья в журнале Proceedings of the National Academy of Sciences, ноябрь 2017 года
Понятию «пропаганда» в его нынешнем значении чуть больше ста лет. Когда-то так называли работу миссионеров по обращению неверующих, а потом случилась Первая мировая война. «До 1914-го слово “пропаганда” встречалось исключительно в лексиконе людей образованных и обладало достойным, почтенным смыслом. ‹…› Два года спустя оно появилось в словаре крестьян и копателей ям и начало отдавать зловонием», – объяснял американский писатель Уилл Ирвин{22}. Именно во время Первой мировой типографии воюющих сторон начали одновременно печатать стотысячными тиражами плакаты для своих, изображающие врага карикатурным злом, которое надо стереть с лица земли, и листовки для вражеских солдат, призывающие бросить оружие и идти брататься.
Может ли пропаганда на самом деле заставить вас что-нибудь сделать? С одной стороны у человека есть жизненный опыт, привычки и представления о добре и зле, которые он разделяет со своим окружением, с другой стороны голос по ТВ или радио произносит какие-то слова. Достаточно ли этого, чтобы вы, например, встали с дивана и пошли кого-нибудь убивать?
Несколько лет назад доцент-экономист из Гарварда по имени Дэвид Янагизава-Дротт решил разобраться с этим вопросом – и не качественно, а количественно – на примере геноцида 1994 года в Руанде{23}. Дротт вспомнил школьную физику и придумал простой способ сосчитать убитых пропагандой.
За участие в геноциде международный трибунал осудил на долгие тюремные сроки ведущих пропагандистской радиостанции RTLM («Радио тысячи холмов»). Их виновность вроде бы была доказана. Да, разжигали ненависть. Да, призывали «раздавить тараканов». И действительно, за три месяца, с апреля по июль, активисты-хуту мачете и голыми руками убили 500 тысяч тутси (или миллион, о цифрах спорят). Открытым остается другой вопрос: так ли уж сильно радио повлияло на развитие событий? (Про ТВ и газеты речи нет: в стране, где большинство не умеет читать и не имеет денег на телевизор, радио вне конкуренции.)
И тут, как иногда бывает в науках об обществе, на помощь приходит физика. А конкретней – законы распространения радиоволн.
У RTLM – одной из двух станций, которые в России назвали бы федеральными, – в распоряжении было всего два передатчика: один, 100-ваттный, в столице Кигали, другой, 1000-ваттный, на высоком горном пике Муэ. «Тысяча холмов» в названии станции – это потому, что Руанда и в самом деле гористая. Горы перекрывают путь радиосигналам, поэтому в некоторых деревнях приема нет, а в некоторых покрытие частичное. Янагизава-Дротт раздобыл спутниковую карту рельефа и с легкостью рассчитал уровень сигнала в каждой обитаемой точке.
У ученого был еще один набор данных: сколько человек в какой деревне осуждены за участие в геноциде. И в зоне уверенного приема RTLM таких обнаружилось на 62–69 % больше, чем там, куда сигнал не добивал вовсе.
Уже это наблюдение ломает удобную теорию, что призывы убивать в эфире – не причина, а следствие настроений широких масс. Если большинство желает крови, найдутся СМИ, которые озвучат и эту точку зрения. Логично? Со статистикой в руках – уже не очень: где утром пропаганда, там вечером кровь, а не наоборот.
Насилие имеет разные формы. Одни убийцы – любители-одиночки (443 тысячи осужденных); им радио намекало, что за дележ имущества убитых соседей-тутси ничего не будет. Другие – так называемая милиция (77 тысяч осужденных): в переводе на русский это не люди с погонами и в фуражке, а, скорее, нечто вроде казачьих дружин, организованные добровольцы. Кумулятивный эффект, обнаруженный Янагизава-Дроттом, касался как раз вербовки таких отрядов. Лучше всего она шла, если не только сама деревня, где вербуют, но и соседние с ней попадали в зону уверенного приема RTLM. То есть головорезами в отряды милиции шли, получается, не только законченные маньяки, но и обычные люди, которым хватило бы неодобрения далеких соседей, чтобы передумать.
Для индивидуального насилия такой закономерности не обнаруживалось: если ты идешь убивать один, то, вероятно, и так отдаешь себе отчет, что это просто убийство, а не священная война. Зато когда все вокруг уверены, что ваше дело правое, примкнуть к организованным силам добра просто как никогда.
В конце статьи мало морализаторских выводов, зато много таблиц и графиков. Один, например, хорошо объясняет, зачем властям зачищать информационное пространство (ну, например, в России додавливать соцсети и блоги), если они и так доминируют в эфире. Когда доля радиослушателей в деревне переваливала за пороговую цифру в 60–80 %, уровень «насилия милиции» вырастал скачком. Последние сомневающиеся – серьезное препятствие на пути у пропаганды, и это меньшинство нельзя недооценивать.
Геноцид в Руанде – совсем недавнее прошлое: в России в 1994-м появляется сайт Lib.Ru, устанавливают первые банкоматы, крутят рекламу МММ с Леней Голубковым, первая чеченская война вот-вот начнется. Тот же список примет времени объясняет, почему новости о резне где-то в Африке стали главным сюжетом года в американских и европейских СМИ, но не у нас.
Государственные СМИ способствуют войне? Государственные СМИ нагнетают ненависть? Дэвид Янагизава-Дротт переводит эти интеллигентские суждения в плоскость цифр. Он дает свою оценку снизу для числа смертей, которые целиком и полностью на совести «Радио тысячи холмов». Получается 51 000 человек, которые были бы живы, если бы в двух точках страны сломалась пара передатчиков – один на 100, другой на 1000 ватт.
* * *
Первая ассоциация со словом «пропаганда» – рупор. Большая железная штука на столбе, из какой в июне 1941-го объявили про нападение Германии. Само собой разумеется, что у голоса в рупоре не может быть конкурентов: не случайно через три дня после начала войны советским гражданам приказали сдать радиоприемники, чтобы они не узнавали о положении дел на фронте из новостей зарубежных радиостанций. Классическая пропаганда хорошо работает тогда, когда альтернативные источники информации недоступны.
Как тогда пропаганда возможна в современном мире, где у каждого в кармане смартфон, в смартфоне интернет, а в интернете миллион мнений?
Если пропаганда будет адресной, точечной и обращаться к каждому лично, все остальные мнения не смогут с ней конкурировать. Эту идею стали обозначать словом «микротаргетинг».
Как только в ноябре 2016-го стали известны результаты выборов в США (а Дональд Трамп победил вопреки всем прогнозам, и журналам пришлось срочно переверстывать заранее заготовленные обложки с Хиллари Клинтон), британская консалтинговая компания Cambridge Analytica взяла ответственность за эту неожиданность на себя.
В пресс-релизе{24} компания объясняла успех Трампа, чью предвыборную кампанию в интернете она спланировала, своим «революционным подходом к коммуникации на основе данных».
Услугами той же компании пользовались лидеры движения Брекзит за выход Великобритании из Евросоюза – и тоже неожиданно для всех победили на референдуме.
Примеры микротаргетинга на выборах в США приводит швейцарский журнал Das Magazin в своем расследовании{25}, опубликованном через месяц после выборов (это самая обсуждаемая из всех статей, написанных в 2016 году на немецком языке). Людям с высокой тревожностью надо показывать баннеры с рукой грабителя, разбивающей стекла в доме, и сообщать: кандидат Трамп будет отстаивать ваше право на оружие, каждый должен иметь право защитить себя. А есть люди, которых от одной мысли об оружии тошнит, зато их трогает несправедливость и интересует благотворительность. Такие увидят расследование про провал фонда Хиллари Клинтон во время катастрофы на Гаити. Здесь в 2010-м случились землетрясение и эпидемия холеры, имя Клинтон помогло собрать больше 10 млрд долларов – и большая часть этой суммы ушла на бесполезные для пострадавших цели.
Каждое такое сообщение на билбордах, видимых всем, вызвало бы волну обсуждения и, вероятно, критики. Но в расследовании говорится, что это была «теневая» политическая реклама в Facebook – ее видели только те, кому она идеально подходит.
Спрашивается, откуда Cambridge Analytica узнала, что кому подойдет? Она опиралась на известную модель психотипов, придуманную еще в 1960-е. С подачи Ганса Айзенка, автора знаменитого теста на интеллект, у психологов-практиков прижилась пятифакторная модель личности: набор из пяти качеств, относительно независимых друг от друга, к которым можно свести все остальные, от импульсивности до интереса к проблеме НЛО и домовых. «Большая пятерка» – это открытость новому, добросовестность, экстраверсия, доброжелательность и невротизм. Каждое из пяти можно оценить по шкале от 0 до 1. Модель старая, на нее ссылаются в десятках тысяч психологических статей.
Нового в схеме Cambridge Analytica было вот что. Специалист по большим данным из Стэнфорда Михал Косински придумал, как вывести эти оценки из поведения человека в Facebook. А Cambridge Analytica изобрела удобный способ собрать данные об этом поведении.
Когда в 2018-м выяснились подробности о том, как именно данные 50 млн пользователей достались политтехнологам, хештег #DeleteFacebook («удалить Facebook») вышел в топ Twitter, компания Facebook подешевела на 35 млрд долларов, а Марк Цукерберг выкупил по одной рекламной полосе в шести крупных английских газетах, чтобы напечатать там свои извинения перед пользователями.
Это не были личные секреты, переписка в мессенджере и записи, спрятанные ото всех. И пользователи выдали эти данные сами – хотя, правда, и не догадывались, что с данными случится дальше.
* * *
В самой известной из своих научных статей Косински утверждает{26}: активность в Facebook позволяет с хорошей точностью предсказать сексуальную ориентацию и национальность. Пол и возраст. Вероисповедание и политические взгляды. Употребляете ли вы наркотики. И даже развелись ли ваши родители до того, как вы достигли совершеннолетия.
Главным сюрпризом стало то, что такие выводы можно делать массово и в автоматическом режиме: методику проверили на выборке из 58 000 человек. Программу вообще не интересует содержание записей – ей достаточно списка страниц, которые человек лайкнул. Причем прямолинейные связи («если человек состоит в сообществе ЛГБТ-активистов – возможно, он гей») на удивление дают не так много информации, как неочевидные: скажем, лайк сатирическому телешоу Colbert Report – индикатор высокого IQ, а лайк мотоциклам Harley-Davidson – наоборот.
Мы и сами можем составить первое впечатление о ком-либо, пробежав глазами десяток его записей на странице в Facebook. Если не возраст, когда развелись родители, то, по крайней мере, пол, возраст и политические взгляды несложно выяснить таким образом за считаные минуты. Кто знаком с человеком дольше – обладает и вовсе громадным преимуществом перед роботом, анализирующим лайки, в вопросе про его отношение к наркотикам, вероисповедание или сексуальную ориентацию. Круг общения выбирают по интересам, и все склонны про свои интересы рассказывать друзьям. Мусульмане дружат с мусульманами, монархисты с монархистами, геи с геями.