Мы живем в мире в сильной степени трансформированном технологиями. Прошлые технологии были важны, но они так не вмешивались в наши мозги, будучи просто техникой. Изобретение, к примеру, паровой машины не повлияло так на ментальные процессы человечества, как изобретение компьютера. Современные поколения начали видеть и понимать мир по-другому, отсюда так называемое “клиповое мышление” и другие новые процессы, до конца даже не осознаваемые.

Современные технологии типа Фейсбука не только  вмешиваются, но и вообще рассматривают нас как часть своих “производственных процессов”. Это, конечно, началось с рекламы и паблик рилейшнз, которые использовались с целью построения общества потребления, по этой причине они были направлены на “автоматизацию” поведения человека, создававшего из него потребителя. В результате он как бы становился частью производственной цепочки – условным работником цеха потребления продукции.

Эмоции также были освоены технологиями, только технологиями работы с человеческим мозгом. В результате происходит сцепка технологий технических и технологий человеческих. Сегодня даже заговорили о постчеловеке и постчеловечестве. За этим термином скрывается идея потери “человеческого” и возрастании “технического” в самом человеке.

Техника в сумме с человеком порождают новые типы “человеко-технических структур”, примером которых можно признать соцмедиа. Они направлены на отдельного человека, но он ими не управляет, хотя и считает себя их создателем. Они эксплуатируют важное свойство человека – его желание делиться с другими новой информацией. В результате в соцмедиа он попадает в “информационный рай”, когда впервые его окружает больше информации, чем он может охватить.

Соцмедиа стали полем для дискурсивных войн, когда в одном информационном пространстве функционируют противоположные точки зрения. Раньше они “жили” в разных пространствах, сегодня человек попадает в “информационную шизофрению”, когда он одновременно получает сообщения противоположного содержания.

Управляемые другими странами дискурсивные войны стали приметой внутренней жизни многих стран [1 – 5]. Любая ситуация, несущая отклонение от нормы, сразу же используется для того, чтобы начать внутреннюю дискурсивную войну, ведущую к ослаблению единства страны. То есть разрушается ее идентичность. Особенно часто это происходит в ситуации выборов, когда многие “игроки” извне хотят помочь более выгодному для них кандидату.

Прошлые геополитические противники стали сегодня такими же противниками в сфере дискурсивных войн. И это понятно, поскольку это дешевые по затратам войны, которые можно вести анонимно с помощью соцмедиа. При этом все остаются живы, только их мозги трансформируются в нужную для коммуникатора сторону.

Все это случилось очень быстро и на наших глазах. Как говорит А. Мартинез, руководивший таргетинговой рекламой Фейсбука: “Если бы вы пришли ко мне в 2012, когда бушевали последние президентские выборы, а мы искали все более сложные пути монетизации Фейсбука, и сказали мне, что российские агенты в Кремле будут покупать рекламу в Фейсбуке, чтобы подорвать американскую демократию, я бы спросил вас, а где ваша шапочка из фольги. А сейчас мы живем в перевернутой политической реальности” (цит. по [6]).

Параллельно с созданием конфликтующих дискурсов осуществляются кибернападения на серверы атакуемой страны с уничтожением баз данных. Ведущий американский компьютерный журнал “Wired” рассказал детально о ряде таких кибервойн со стороны России [7 – 9]. В 2015 – 2016 гг. такие атаки были на серверы демократического национального комитета США, в 2017 на украинские правительственные структуры с заражением их вредоносной программой ­NotPetya. Есть детальный доклад министерства юстиции США о российском вмешательстве в президентские выборы 2016 г., первый том которого насчитывает 448 стр. [10]. 

Правда, сегодня эффективность работы Cambridge Analytica на выборах Трампа немного подвергается сомнению. А. Мартинез, который в Фейсбуке занимался рекламным таргетингом, говорит: “То, что они делали это фигня, в основном. Такое делалось и раньше. Нет причин думать, что это особенно эффективно” [11]. Еще один специалист Э. Уилсон говорит: “Психографическая дата настолько хороша, сколько креатива вы способны породить”. 

Известный персонаж из Cambridge Analytica К. Уайли сказал NBC News: “Большие объемы информационных операций состоят в искажении восприятия людей. Эта компания [Cambridge Analytica – Г.П.] родилась из военных контрактов. Там необязательно должна быть задача стандартных политических коммуникаций, где люди понимают, что их пытаются в чем-то убедить. Это изменение того, что люди думают и воспринимают в реальном мире” (там же).

По поводу Стива Бэннона он сказал в другом интервью так: “Стив хотел получить оружие для его культурной войны. Мы дали ему способ достичь его цели, которая состояла в изменении  культуры Америки” 

В тоже время кампания Клинтон характеризовалась более широким таргетингом, учитывающим возраст, место и пол. Тот же Мартинез разъясняет это, добавляя “Это работа в старом стиле. Как бы телевидение на Фейсбуке” [12]. 

Бэннон, а он был стратегическим советником Трампа в период президентской кампании, пришел с идеей, что, если они смогут контролировать культуру, то оттуда они смогут контролировать и политику. То есть управлять одним пространством с помощью другого. Мы привыкли только к одному правилу – пространство медиа может управлять пространством политики. Бэннон привнес другое – пространство культуры тоже может управлять политикой.

Уайли, а он исходно писал диссертацию именно о моде, рассказывает об этом пересечении: “Политика и мода – они обе об идентичности. Они обе очень цикличны. Есть множество разных эстетик в политике и моде. Глядя более широко, мода и политика обе являются продуктами нашей культуры. Можно думать о политических движениях как модном тренде, когда множество людей внезапно принимают новую идею или концепцию. И то, как мы принимаем моду и политику, связано с тем, кто мы, каковы наши личности, для меня они просто проявления нас же в разных контекстах. О чем мы кричим на городской площади, и, с другой стороны, чем мы украшаем свои тела?” [13].  

Суть своей работы он описывает так: “Это профилирование людей, а также таргетинг их, чтобы создать доминирование в информационной среде вокруг них. Как только вы разрываете их связи с другими источниками информации, вы помещаете их в среду, где у вас больше контроля за информацией, чем они реально могут увидеть. Это очень важная вещь, поскольку они все еще ощущают себя во главе, так как в своих головах как бы сами принимают решение кликнуть на чем-то, поделиться чем-то или обмолвиться с каким-то случайным аккаунтом, которого они реально не знают. Они не видят мыслительного процесса и стратегии, которые стоят за всем этим” [14].

И это самое яркое описание управления дискурсивным процессом, которое осуществляется вне понимания у того, кто является объектом этого управления. Ему все представляется вполне естественным.

Касаясь прогноза выборов 2020 Уайли говорит: “Если посмотреть на 2016 как на case, было понятно, что Россия будет первой в понимании, что вы можете использовать множество этих платформ для манипуляций над избирателями. Теперь это не только Россия. Будет более широкий набор угроз. Это Китай, Северная Корея, Иран и, честно говоря, некоторые американские союзники тоже. Если у вас будет торговый спор, кто может сказать, что Мексика не станет вмешиваться” (там же).

В тех выборах была еще одна деталь, которая вылилась в шум по поводу того, что Трамп платил меньше, чем Клинтон за рекламу в Фейсбуке. Это и так, и не так. Дело оказалось в том, что контент Трампа был более провокативным, поднимающим шум в соцсетях, и он лучше управлял лайками, комментами и т.д., чем Клинтон, и модель кликов Фейсбука ему помогала. В результате получилось, что в кампании Клинтон платили в 100 – 200 раз больше, чем у Трампа, чтобы достичь того же количества людей в Фейсбуке ([15], см. также [16]). Проблема еще и в том, что соцмедиа оказались полны негативных комментариев [17 – 19]. А исследования к тому же показывают, что если первый комментарий негативен, то за ним почти автоматически последуют такие же. То есть один негатив порождает следующий, и это уже поток негатива…

Украина оказалась привязанной к выборам через фигуру первоначального главы кампании П. Манафорта, имя которого часто упоминается на страницах доклада комитета по разведке сената в контекстах типа такого: “Манафорт проинструктировала Рика Гейтса, своего зама по кампании многолетнего сотрудника, предоставлять Килимнику новую информацию по кампании Трампа, включая внутреннюю социологию, хотя Манафорт утверждает, что не помнит такого поручения. Манафорт ожидал, что Килимник поделится этой информацией с другими в Украине и с Дерипаской. Гейтс время от времени посылал эти данные Килимнику в период кампании” ([20], см. также [21 – 22]).

На другой встрече Килимник передавал письмо от Януковича, который уже жил в России. В нем был мирный план для Украины, который давал возможность России контролировать восточную Украину. Через несколько месяцев, уже после выборов, в своем э-мейле Килимник писал, что, если Манафорта назначат американским представителем и процесс начнется, Янукович обеспечит ему встречу в России “на самом высоком уровне”.

И такая информация есть в этом официальном документе: “Контакты Манафорта в России во время кампании и переходного периода возникли из его консультирующей работы на Дерипаску приблизительно с 2005 по 2009 гг. и его работы по политическим консультациям на Украине с 2005 по 2015 гг., включая помощь его компании DMPInternational LLC (DMI). Килимник работал на Манафорта в Киеве во время всего этого периода и продолжал общаться с Манафортом по крайней мере до июня 2018. Килимник, который говорит и пишет по-украински и по-русски, облегчал многие коммуникации Манафорта с Дерипаской и украинскими олигархами”. 

К. Килимник закончил Военный университет Министерства обороны, где готовят переводчиков для военной разведки России, которые часто потом становятся и сами разведчиками [23 – 29]. Он хорошо знал английский и шведский. Там у него было прозвище “Кот”.  И только эта информация, как и его связь с Дерипаской, поддерживают версию его связей с властными структурами России. 

В докладе комитета по разведке сената, посвященному работе в соцмедиа, констатировалось, что главным объектом применения сил были афро-американцы: комитет обнаружил, что никакая отдельная группа американцев не получила больше воздействия, чем они [30]. Источником этого воздействия было интернет агентство из Санкт-Петербурга. При этом российская активность даже возросла после дня голосования: на 59% в Фейсбуке, на 238% в Инстаграме, на 84% в Ютьюбе и на 52% в Твиттере.

Председатель этого комитета Ричард Барр сказал: “Россия ведет кампанию информационной войны против США, которая не началась и не закончилась с выборами 2016 года”. Такой “оптимистический” прогноз…

Один из таких петербургских троллей назвал уровень оплаты в агентстве – он получал 1400 долларов в неделю: “Они платили за написание. Я был намного моложе и не думал о моральной стороне. Я просто писал, так как люблю писать. Я не пытался изменить мир” [31]. Последнее не очень верно, так как эта интернет-машина как раз и пыталась изменить мир. Это можно увидеть и по темам, в работе над которыми они днем и ночью несли свои двенадцатичасовые вахты: президент Путин или президент Обама, а часто оба сразу; Украина; героизм министра обороны России; российские оппозиционеры и даже роль Америки в распространении вируса Эбола. Как видим, перед нами эмоциональный вход в абсолютно все уголки американского массового сознания.

Таинственным образом цели кампании Трампа и троллей совпали – они должны были “подавить голосование афро-американцев” [32]. Интересно, что в свое время, как рассказывал С. Доренко, на выборах Ельцина однотипно пытались сделать так, чтобы пенсионеры не пришли отдать свой голос против Ельцина. Тогда программа “Время” показал сюжет с поджогом дачи, которую до этого сами же телевизионщики и подожгли, чтобы пенсионеры с утра ринулись не на избирательные участки, а на дачи. 

 В случае кампании Трампа российская сторона использовала социальные медиа. Российские тролли имели целью “запутать, отвлечь и в конечном итоге воспрепятствовать” афро-американцам и другим про-клинтоновским избирателям голосовать за нее, например, запуская фиктивную информацию, что Клинтон получает деньги от  Ку-Клукс-Клана [33]. 

Оксфордские исследователи констатировали, что черные американцы получили больше рекламы в Фейсбуке и Инстаграме, чем любая другая группа. Результирующая сумма такая: более 1000 разных сообщений были направлены на пользователей Фейсбук, заинтересованных в афро-американских проблемах, и они достигли 16 миллионов пользователей. 

Назовем это информационным водопадом, когда каждый, хочет он этого или нет, попадает в поле этого влияния. И поскольку оно является не случайным, в системно организованным информационным потоком, то избежать его воздействия не может никто, хотя каждый будет считать, что на него никто воздействовать не сможет.

Аналитики назвали это “экосистемой погружающего влияния”, когда разные страницы могут размещать информацию в поддержку друг друга. В результате образовывался достаточно большой охват аудитории с глубинным проникновением в мозги из разных источников. Тем более аудитория в момент выборов просто жаждет получать все больше и больше информации. Фиктивный аккаунт Blacktivist, созданный россиянами, получил, например, 4.6 миллионов “лайков”. Там говорилось, чтобы увести избирателей от Клинтон, что следует отдать голоса кандидату партии зеленых Дж. Стейн, и вообще, что “неголосование – это выражение наших прав” (см. также анализ афро-американских избирателей на избрание Трампа в 2016 [34 – 35]).

В заключение упомянем, что в наборе судебных документов есть множество э-мейлов Манафорта, рекомендующих очень детальные “talking points” для Януковича и Азарова [36]. То есть все то, что мы слушали из их уст с телеэкранов, на самом деле было написано другими.

Манафорт пишет, например, что в ночь выборов сидел пять часов вместе с Януковичем, а сегодняшние статьи прямо говорят о Килимнике как о представителе ГРУ [37 – 39]. И акцентируется также следующее, что очень важно: “Оба, Манафорт и Килимник, пытались продвигать нарратив, что Украина, а не Россия, вмешивалась в американские выборы 2016, а “гроссбух” с оплатой Манафорта был фейком” [40]. И еще: “В докладе говорится, что Килимник “почти точно помог организовать первые публичные месседжи, что Украина вмешивалась в американские выборы”. Президент Трамп и его личный юрист Руди Джулиани позже повторяли это” (там же). 

У Килимника возник набор прозвищ: в Москве его знали как “Костя, парень из ГРУ”, еще КК, в Киеве называли “Манафорт Манафорта” [41]. Одно из объяснение его приближенности в  Манафорту таково: “Язык был так важен, поскольку надо было схватывать нюансы. И так как Пол не говорит ни по-русски, ни по-украински, ему все время надо иметь кого-то рядом с ним на встречах, поэтому КК был с ним всегда. Он был очень близок Полу и пользовался большим его доверием” (там же).

Из-за всего этого у сенатского комитета возникли потенциальные контрразведывательные вопросы, что Россия может использовать компрометирующую информацию для влияния на тот момент кандидата в президенты в его отношениях с Россией [42]. Тут возможны были два варианта: операция влияния извне и дезинформационная операция внутри.

В Киеве Килимник делился внутренней украинской информацией с американским посольством [43]. Но, как случайно выяснилось, например, и с итальянским посольством тоже. Огромное число статей на тему Килимника объясняют тем, что все это были контакты с офицером российской разведки, с которым либо делились информацией, либо сами получали ее от него по внутренним украинским проблемам (см., например, [44 – 45]). То есть Килимник был каналом воздействия на американскую политику.

Мы опять попали в точку большой эмоциональной напряженности всех действующих лиц. Это выборы Януковича, это выборы Трампа, когда эмоциональное напряжение у всех действующих лиц было максимальным. Поэтому все они находились в поиске информации, которая, попадая в нужный момент на необходимый стол, влияла на принятие политических решений. 

В докладе комитета по разведке появляется еще один уроженец СССР А. Коган, родители которого эмигрировали, когда он был ребенком [20] Есть там и еще один участник кампании – израильская  Psy Group, которая подает свою работу как “Формирование реальности с помощью разведки и влияния”. Коган делал презентации своей работы в Cambridge Analytica в России. Он также работал на Лукойл, как и Cambridge Analytica.

Интересная информация также прозвучала из уст Уайли: “Cambridge Analytica стремилась использовать модели социальных изменений, построенные на информации, идентифицируя подмножества данной популяции, восприимчивых к конкретным месседжам. Вместо того, чтобы сфокусироваться на сегменте ядерной популяции в центре проблемы, работа Cambridge Analytica была направлена на изменение 5 процентов населения на краю проблемы с целью, чтобы эти 5 процентов определяли большую часть результатов голосования”.

Медиа уцепились в фигуру Когана как на прямую связь между Россией и выборами [46 – 50]. Однако он защищается, утверждая, что в своих лекциях в Петербурге он подчеркивал, что “дата из соцмедиа не может быть эффективно использована для создания прогнозов на индивидуальном уровне” [51]. Одновременно СNN цитирует иные его высказывания из лекций: “Уровень прогноза по поводу ваших лайков в Фейсбуке будет выше, чем то, что ваша жена может сказать о вас,что ваши родители или друзья могут сказать о вас. Даже если мы возьмем 10 ваших друзей и они дадут описание того, кем вы являетесь, а мы  соберем это все вместе – этот анализ [по Фейсбуку] будет лучше. Ваш Фейсбук знает о вас больше, чем кто-либо в вашей жизни”.

В продолжение его работ в Петербурге выходят статьи петербургских ученых, например, на тему лингвистической модели стресса, благополучия и темных сторон характера в российских текстах Фейсбука [52]. Или о лингвистических коррелятах в текстах Фейсбуке неклинических вариантов нарциссизма, макиавеллианизма и психопатии [53].

Первый автор там Паничева П. [54], защитившая кандидатскую диссертацию по филологическим наукам на тему “Анализ параметров семантической связности с помощью дистрибутивных семантических моделей (на материале русского языка)” [55], где первым оппонентом у нее был доктор технических наук, специализирующаяся по автоматической обработке текстов. 

Есть доклад по определению возраста онлайновых блогеров, финансируемый из интересной грантовой темы “Определение пола и возраста онлайновых собеседников на базе формальных параметров их текстов” [56]. И еще одна тема проекта СПбГУ прозвучала – “Стресс, здоровье и психологическое благополучие в социальных сетях: кросс-культурное исследование” [57]. Большой объем работ делается по тому, что можно обозначить как деанонимизация текстов Фейсбука, поскольку он направлен на определение личностных характеристик по их лингвистическим коррелятам [58 – 60].

Получается, что это один из вариантов технологии распознавания личности, подобных визуальному распознаванию, только теперь это вербальное распознавание. Правда, в свое время генерал КГБ Ф. Бобков писал, что 90% анонимок они в КГБ успешно раскрывали. Возможно, это связано было с тем, что, как он отмечал, пик анонимок приходил, когда какой-то театр отправлялся на гастроли за рубеж. То есть список потенциальных авторов уже заранее легко создавался. Но с другой стороны, у него была и такая фраза, что каждому теракту предшествуют анонимки, а тут такой подсказки не было.

Технологии опираются на слабое место человека – в Фейсбуке он считает себя совершенно свободным и не задумывается о том, что современные подходы активно заняты анализом переходов от его “лайков” к чертам его психики и характера. “Лайки” и репосты становятся его ежеминутным психологическим тестированием, который на следующем этапе дает возможность, объединять таких людей в группы по восприимчивости к тем или иным сообщениям. Человек сам открывает свой разум, а технологии дают возможность подобрать нужные ключи к нему. Так и хочется прокричать: ребята, вас хорошо видно и слышно, даже когда вы сидите в темной комнате, но с компьютером в руках…

Главный  вывод, который нам придется сделать, состоит в том, что технологии все больше побеждают человека и что наиболее эффективные шаги делаются вне учета этичности, а только ради достижения нужного результата. Эпоха пост-правды хорошо прячется, выдавая себя за правду…

Литература:

1. Russia, China, Iran exploit George Floyd protests in U.S. https://medium.com/dfrlab/russia-china-iran-exploit-george-floyd-protests-in-u-s-6d2a5e56c7b9
2. Intelligence and security committee of Parliament Russia https://docs.google.com/a/independent.gov.uk/viewer?a=v&pid=sites&srcid=aW5kZXBlbmRlbnQuZ292LnVrfGlzY3xneDo1Y2RhMGEyN2Y3NjM0OWFl
3. Newman L.H. The Russian Disinfo Operation You Never Heard About https://www.wired.com/story/russia-secondary-infektion-disinformation/
4. Dziedzic S. a.o.  Morrison Government plans to set up taskforce to counter online disinformation https://www.abc.net.au/news/2020-06-17/foreign-minister-steps-up-criticism-china-global-cooperation/12362076
5. Madrigal A.C. Russia’s Troll Operation Was Not That Sophisticated https://medium.com/the-atlantic/russias-troll-operation-was-not-that-sophisticated-39111b4f1ce4
6. Madrigal A.C.  What Facebook Did to American Democracy https://medium.com/the-atlantic/what-facebook-did-to-american-democracy-e5483725e219
7. Greenberg A. The Untold Story of NotPetya, the Most Devastating Cyberattack in History https://www.wired.com/story/notpetya-cyberattack-ukraine-russia-code-crashed-the-world/
8. Greenberg A. How an Entire Nation Became Russia’s Test Lab for Cyberwar https://www.wired.com/story/russian-hackers-attack-ukraine/
9. Greenberg A. Petya Ransomware Epidemic May Be Spillover From Cyberwar https://www.wired.com/story/petya-ransomware-ukraine/
10. Report On The Investigation Into Russian Interference In The 2016 Presidential Election https://www.justice.gov/storage/report.pdf
11. Allen J. a.o. Cambridge Analytica’s effectiveness called into question despite alleged Facebook data harvesting https://www.nbcnews.com/politics/politics-news/cambridge-analytica-s-effectiveness-called-question-despite-alleged-facebook-data-n858256
12. Full transcript: Former Facebook ad targeting boss Antonio García-Martínez on Too Embarrassed to Ask https://www.vox.com/2018/5/14/17353972/transcript-former-facebook-ads-guy-antonio-garcia-martinez-too-embarrassed
13. Cafolla A. The whistleblower: Chris Wylie on fashion, culture wars & the alt-right https://www.dazeddigital.com/politics/article/39542/1/the-whistleblower-chris-wylie-cambridge-analytica-fashion-and-politics
14. ‘The Capabilities Are Still There.’ Why Cambridge Analytica Whistleblower Christopher Wylie Is Still Worried https://time.com/5695252/christopher-wylie-cambridge-analytica-book/
15. Oremus W. Did Facebook Really Charge Clinton More for Ads Than Trump? https://slate.com/technology/2018/03/did-facebook-really-charge-clinton-more-for-ads-than-trump.html
16. Trump and the weird attention economy of Facebook https://boingboing.net/2018/02/23/lookalike-audiences.html  
17. How reading online comments affects us https://socialmediapsychology.eu/2016/10/05/onlineandsocialmediacomments/
18. The psychology of social media https://online.king.edu/news/psychology-of-social-media/
19. Радулова Н. Страх и ненависть  в рунете https://www.kommersant.ru/doc/4449694?from=main_ogoniok
20. Report of the select committee on intelligence United States Senate on Russian active measures campaigns and interference in the 2016 U.S. election. Volume 5: counterintelligence threats and vulnerabilities // READ: Senate Intelligence panel’s fifth volume of Russia investigation report https://www.cnn.com/2020/08/18/politics/fifth-senate-russia-intel-report/index.html
21. Herb J. a.o. Bipartisan Senate report details Trump campaign contacts with Russia in 2016, adding to Mueller findings https://www.cnn.com/2020/08/18/politics/senate-intelligence-report-russia-election-interference-efforts/index.html
22. Mazzetti M. a.o. G.O.P.-Led Senate Panel Details Ties Between 2016 Trump Campaign and Russia https://www.nytimes.com/2020/08/18/us/politics/senate-intelligence-russian-interference-report.html?action=click&module=Top%20Stories&pgtype=Homepage
23. Расследование: Константин Килимник – возможное звено, которое связывает Манафорта со спецслужбами РФ https://www.currenttime.tv/a/29447599.html
24. Судебный протокол: Константин Килимник присутствовал на инаугурации президента Трампа https://www.golos-ameriki.ru/a/kilimnik-manafort-inauguration/4778038.html
25. Писня Н. Новая жертва спецпрокурора Мюллера – “русский мозг” Манафорта Константин Килимник https://www.bbc.com/russian/features-44422845
26. Жолобова М. и др. Абсолютно советский человек. Портрет Константина Килимника, российского патриота, работавшего на окружение Дональда Трампа https://www.proekt.media/portrait/kilimnik-manafort/
27. Немец А. Кто такой Константин Килимник? https://www.kasparov.ru/material.php?id=5C69508A7627B
28. «Агент ГРУ» Килимник оказался информатором ФБР и агентом Госдепа https://riafan.ru/1186406-agent-gru-kilimnik-okazalsya-informatorom-fbr-i-agentom-gosdepa
29. AP опубликовало детали сотрудничества Манафорта и его помощника Килимника https://www.dw.com/ru/ap-%D0%BE%D0%BF%D1%83%D0%B1%D0%BB%D0%B8%D0%BA%D0%BE%D0%B2%D0%B0%D0%BB%D0%BE-%D0%B4%D0%B5%D1%82%D0%B0%D0%BB%D0%B8-%D1%81%D0%BE%D1%82%D1%80%D1%83%D0%B4%D0%BD%D0%B8%D1%87%D0%B5%D1%81%D1%82%D0%B2%D0%B0-%D0%BC%D0%B0%D0%BD%D0%B0%D1%84%D0%BE%D1%80%D1%82%D0%B0-%D0%B8-%D0%B5%D0%B3%D0%BE-%D0%BF%D0%BE%D0%BC%D0%BE%D1%89%D0%BD%D0%B8%D0%BA%D0%B0-%D0%BA%D0%B8%D0%BB%D0%B8%D0%BC%D0%BD%D0%B8%D0%BA%D0%B0/a-44498256
30. Mccabe D. G.O.P.-Led Senate Panel Affirms Russia Attacked Election, and Urges Action https://www.nytimes.com/2019/10/08/business/senate-report-russia-election.html
31. MacFarquhar N.  Inside the Russian Troll Factory: Zombies and a Breakneck Pace https://www.nytimes.com/2018/02/18/world/europe/russia-troll-factory.html 
32. Graham D. Trump’s ‘voters suppression operation’ targets black voters https://www.theatlantic.com/politics/archive/2016/10/trumps-black-voter-dilemma/505586/
33. Swaine J. Russian propagandists targeted African Americans to influence 2016 US election https://www.theguardian.com/us-news/2018/dec/17/russian-propagandists-targeted-african-americans-2016-election
34. Washington J. African-Americans see painful truths in Trump victory https://theundefeated.com/features/african-americans-see-painful-truths-in-trump-victory/
35. Bush D. Inside the Trump campaign’s strategy for getting Black voters to the polls https://www.pbs.org/newshour/politics/how-the-trump-campaign-hopes-to-boost-black-voter-turnout
36. Supplemental Motion in Limine Exhibits – July 25, 2018 https://www.courtlistener.com/recap/gov.uscourts.vaed.383106/gov.uscourts.vaed.383106.153.1.pdf
37. Konstantin Kilimnik https://en.wikipedia.org/wiki/Konstantin_Kilimnik
38. Vogel K.P. a.o. Russian Spy or Hustling Political Operative? The Enigmatic Figure at the Heart of Mueller’s Inquiry https://www.nytimes.com/2019/02/23/us/politics/konstantin-kilimnik-russia.html
39. Stone P. Konstantin Kilimnik: elusive Russian with ties to Manafort faces fresh Mueller scrutiny https://www.theguardian.com/us-news/2018/nov/09/konstantin-kilimnik-russia-trump-manafort-mueller
40. Winter T. a.o. Manafort associate is Russian spy, may have helped coordinate e-mail hack-and-leak, report says https://www.nbcnews.com/politics/national-security/manafort-associate-russian-spy-may-have-helped-coordinate-e-mail-n1237121
41. Vogel K.P. Manafort’s man in Kiev https://www.politico.com/story/2016/08/paul-manafort-ukraine-kiev-russia-konstantin-kilimnik-227181
42. Schmidt M.S. Trump and Miss Moscow: Report Examines Possible Compromises in Russia Trips https://www.nytimes.com/2020/08/18/us/politics/trump-russia-senate-intelligence.html?action=click&algo=bandit-story&block=more_in_recirc&fellback=false&imp_id=764961958&impression_id=64e1fe80-e243-11ea-a207-7703a41cf250&index=0&pgtype=Article&region=footer&req_id=707739757&surface=more-in-politics
43. Solomon J. Key figure that Mueller report linked to Russia was a State Department intel source https://thehill.com/opinion/white-house/447394-key-figure-that-mueller-report-linked-to-russia-was-a-state-department
44. Phillips C. a.o. Paul Manafort was ‘a grave counterintelligence threat,’ Republican-led Senate panel finds https://www.usatoday.com/story/news/politics/2020/08/18/senate-details-paul-manafort-ties-russian-intel-officer-kilimnik/3390437001/
45. Henderson A. a.o. 7 damning revelations from the new Senate report on Trump and Russia https://www.salon.com/2020/08/19/7-damning-revelations-from-the-new-senate-report-on-trump-and-russia_partner/
46. Cadwalladr C. a.o. Cambridge Analytica: links to Moscow oil firm and St Petersburg university https://www.theguardian.com/news/2018/mar/17/cambridge-academic-trawling-facebook-had-links-to-russian-university
47. Cambridge Analytica’s Russia Connection https://investigaterussia.org/media/2018-03-18/cambridge-analyticas-russia-connection
48. Pinchuk D. a.o. Academic in Facebook storm worked on Russian ‘dark’ personality project https://www.reuters.com/article/us-facebook-cambridge-analytica-kogan/academic-in-facebook-storm-worked-on-russian-dark-personality-project-idUSKBN1GX2F6
49. Lamond J. The Origins of Russia’s Broad Political Assault on the United States https://www.americanprogress.org/issues/security/reports/2018/10/03/458841/origins-russias-broad-political-assault-united-states/
50. Hakim D. a.o. Data Firm Tied to Trump Campaign Talked Business With Russians https://www.nytimes.com/2018/03/17/us/politics/cambridge-analytica-russia.html
51. Cohen M. a.o. Cambridge Analytica researcher touted data-mining in Russia speech https://money.cnn.com/2018/03/20/technology/aleksandr-kogan-video-facebook-cambridge-analytica/index.html
52. Panicheva P. a.o. Towards a linguistic model of stress, well-bing and dark traits in Russian Facebook texts https://www.fruct.org/publications/ainl-abstract/files/Pan.pdf
53. Panicheva P. a.o. Lexical, Morphological and Semantic Correlates of the Dark Triad Personality Traits in Russian Facebook Texts https://www.researchgate.net/profile/Polina_Panicheva/publication/310801303_Lexical_Morphological_and_Semantic_Correlates_of_the_Dark_Triad_Personality_Traits_in_Russian_Facebook_Texts/links/5838319c08aef00f3bf9e818.pdf
54. Паничева Полина Вадимовна https://www.hse.ru/org/persons/35378793
55. Объявление о защите диссертации https://disser.herzen.spb.ru/Preview/Karta/karta_000000511.html
56. Litvinova T. a.o. Profiling the Age of Russian Bloggers https://link.springer.com/chapter/10.1007%2F978-3-030-01204-5_16
57. Темная сторона Facebook https://www.fontanka.ru/2016/06/16/101
58. Паничева П. Как определить настроение и шизофрению по тексту. Подкаст https://anchor.fm/neurotea/episodes/18-ec0lnb
59. Литвинова Т.А. Профилирование автора письменного текста https://cyberleninka.ru/article/n/profilirovanie-avtora-pismennogo-teksta
60. Литвинова Т.А. К проблеме установления характеристик автора письменного текста https://cyberleninka.ru/article/n/k-probleme-ustanovleniya-harakteristik-avtora-pismennogo-teksta