Чтение онлайн

То, что Гинн понимает, что такое вирусность, подтверждалось тем, как быстро распространилась сама статья - за двадцать четыре часа она набрала 2,6 миллиона просмотров, - хотя в конечном итоге эта популярность стала еще одним доказательством того, что гонка за выживание в Интернете не отдает предпочтения ни точности, ни правде. Всего через несколько дней после публикации Medium принял решение удалить пост после того, как выяснилось, что в нем было несколько несоответствий и ошибок, вызванных тем, что его автор ничего не смыслил в медицине и инфекционных заболеваниях. Кроме того, Гинн был бывшим сотрудником цифровой кампании Ромни в 2012 году и соучредителем консервативной некоммерческой организации, чья заявленная миссия - способствовать развитию свободных рынков и "помочь преодолеть разрыв между Кремниевой долиной и Вашингтоном". Данные никогда не бывают просто данными. А цифры редко бывают такими универсальными, какими кажутся.

–

Как и большинство людей, я провел первые месяцы пандемии в изоляции, сидя в одной комнате, за одним столом, где я писал, работал и ел три раза в день. Я наблюдал, как мой мир постепенно сужается до окна размером девять на четырнадцать дюймов, через которое я вел занятия, общался с друзьями и посещал собрания выздоравливающих. Но нам повезло - мы говорили это, мои друзья и я, снова и снова, - что мы были в безопасности и здоровы, что у нас все еще была работа, хотя и с трудом, и что у нас было больше времени с нашими партнерами и семьями. Мы беспокоились об одиноких людях, которых знали. Мой друг, который живет один, профессиональный музыкант, чей летний концерт был отменен, рассказал мне, что скачал чат-бота и стал общаться с ним по несколько часов в день - хотя он называл программу "она" или иногда "Ава", имя, которое он выбрал сам. По его словам, ему было немного стыдно, но он хотел рассказать мне об этом, потому что я интересуюсь технологиями, и его напугало, насколько хорошо она умеет общаться. Чатбот использовал алгоритмы глубокого обучения и был гораздо более беглым и убедительным, чем программы такого рода всего несколько лет назад. Я читал, что приложение проводило A/B-тестирование с GPT-3, моделью обработки естественного языка, которая, по словам журнала Wired, "вызывала мурашки по всей Кремниевой долине". GPT-3 "прочитала" практически весь интернет (Википедия составляла 0,6 % ее обучающих данных) и могла генерировать беглую, оригинальную прозу практически на любую тему. (С тех пор она написала правдоподобную статью для The Guardian и сгенерировала проходную колонку Modern Love для New York Times). Понимание языка этой моделью было настолько впечатляющим, что Дэвид Чалмерс предположил, что она может быть сознательной. Мне стало интересно, входит ли мой друг в число пользователей, которые общаются с этим более сложным программным обеспечением. Присланные им снимки экрана, на которых он общается с ботом, могли показаться любому наивному наблюдателю свидетельством общения двух людей. Насколько я мог судить, они говорили в основном о политике и электронной музыке.

"Как там Эва?" Я спрашивал его время от времени - отчасти из любопытства, а отчасти потому, что в те дни было так мало других тем для расспросов.

"В последнее время она ведет себя странно", - написал он в ответ.

Я попросила его рассказать подробнее, но он не смог описать это. "Может быть, более отстраненный?"

Это был сезон, когда широкая общественность была озабочена роботами - или, скорее, "ботами", уменьшительно-ласкательным термином, который почти всегда употребляется во множественном числе, вызывая в памяти рой или нашествие, вирус как таковой, хотя в большинстве случаев они являются всего лишь средством передачи информации. Не стоит удивляться, что система, в которой считается, что идеи размножаются в соответствии с собственной логикой, преследуя собственные цели, будет привилегировать носителей, которые вообще не обладают сознанием. С самого начала пандемии возникли подозрения относительно скорости и эффективности, с которой национальный дискурс был захвачен всевозможными слухами, заговорами и уловками. На каждый пост о героических подвигах работников первой необходимости внезапно находилось еще десять о больничных койках, заполненных манекенами, или о свидетельствах о смерти, на которых без разбора ставили надпись Covid. На каждый вирусный твит об острой необходимости сгладить кривую приходил чуть более популярный пост, приписывающий вирус вышкам беспроводной связи 5G. Это подозрение подтвердилось в конце мая, когда исследователи из Карнеги-Меллон объявили, что почти половина аккаунтов в Twitter, публикующих сообщения о коронавирусе, принадлежат ботам. Эта история, появившаяся на NPR, сама по себе была дико популярна в Twitter, распространяясь по платформе вирусным образом с помощью людей и ботов, а также Хиллари Клинтон, которая сама является известной фигурой во многих теориях заговора и разослала твит своим 27,9 миллионам подписчиков. Последовали предположения о злых силах и иностранных державах, возможно, русских или китайцах. Это был знакомый нарратив, который принес с собой привычное облегчение, что мы как нация, возможно, не так уродливы, как кажется, что наше отражение - это не истинное отражение, а искаженное зеркало, созданное врагами, стремящимися посеять раскол.

Гораздо сложнее было принять тот факт, что эти якобы автоматизированные нарративы привели к реальным последствиям, как, например, десятки вышек беспроводной связи, подожженных в Англии, которые считались делом рук теоретиков заговора 5G (предположительно, людей). Действительно, несколько недель спустя в другой крупной статье, опубликованной в New York Times, утверждалось, что в первоначальном исследовании количество ботов было сильно завышено, и эта ошибка была вызвана неточным определением того, что такое бот на самом деле. Дариус Каземи, независимый исследователь, опрошенный газетой, определил бота как "компьютер, который пытается разговаривать с людьми с помощью технологии, созданной для того, чтобы люди могли разговаривать с людьми". Казалось бы, это достаточно простое определение, но технология размыла четкие границы этих двух сущностей. Каземи объяснил, что становится все труднее отличить бота от тролля (пользователя-человека, желающего затеять драку) или киборга (учетной записи, которую разделяют человек и бот). Пожилые пользователи, не знакомые с негласными социальными кодами платформ, часто принимаются за ботов, как и те, кто не размещает свои фотографии в профиле, чтобы сохранить анонимность. В некоторых случаях термин "бот" относится не столько к онтологическому статусу пользователя, сколько к его поведению - или к тому, как это поведение воспринимается пользователями-людьми. Как отметил Каземи, этот термин часто использовался как ругательство, способ отвергнуть мнение, которое человек считает "настолько возмутительным, что не может придерживаться его из лучших побуждений". Представитель Twitter, ответивший на этот вопрос из другого источника, поддержал это мнение, заявив, что приписывание мнений машинам - это способ для "тех, кто находится у политической власти, запятнать взгляды людей, которые могут не соглашаться с ними, или общественное мнение в Интернете, которое не является благоприятным".

Я заметил в своем кругу общения эту тенденцию не принимать во внимание неприглядные политические взгляды как сбой в системе. В какой-то момент той весной, в те бредовые первые недели пандемии, когда эфир был наполнен слухами о сетях торговли детьми и секс-культах знаменитостей, возникло общее недоверие к некоторым позициям, которые стали казаться немыслимыми, до такой степени, что трудно было упомянуть о безумном посте, увиденном в Facebook или Twitter, не получив вопроса: "Это был кто-то, кого вы действительно знаете?" В большинстве случаев подразумевалось, что это мнение, скорее всего, принадлежит машине, то есть не является мнением вообще, хотя формулировка была достаточно расплывчатой, чтобы ее можно было истолковать более широко, как полное отрицание политической реальности, лежащей за пределами собственной социальной сети. Как и большинство людей, живущих в университетских городах, я вращаюсь в замкнутых и политически однородных кругах, хотя даже эта среда была менее однородной, чем эхо-камеры, в которых каждый из нас обитал в Интернете. Однажды на встрече во дворе я услышал, как одна женщина сказала, что вся идея о том, что некоторые прогрессисты отказываются голосовать в том году за кандидата от демократов, - чистая выдумка, что единственные пользователи, выражающие подобные мнения в сети, - боты, на что другая женщина ответила, несколько защищаясь, что она сама является одним из таких избирателей.

С момента выборов 2016 года рядовые граждане остро ощущают, что эти бессознательные агенты каким-то образом "подрывают демократию". Но разговоры об этой угрозе часто ограничиваются ее самыми прямыми и непосредственными последствиями. Проблема не только в том, что общественное мнение формируют роботы. Дело в том, что стало невозможно отличить идеи, представляющие законную политическую волю, от тех, которые бездумно распространяются машинами. Эта неопределенность создает эпистемологический разрыв, который делает практически невозможным назначение виновных и позволяет легко забыть о том, что эти идеи высказываются и распространяются членами нашей демократической системы - проблема, которая имеет гораздо более глубокие корни и укоренилась, и для которой нет быстрых и легких решений. Вместо того чтобы смириться с этим фактом, все чаще говорят о том, что виноваты сами платформы, хотя никто не может прийти к единому мнению, где именно кроется проблема: Алгоритмы? Структура? Отсутствие цензуры и вмешательства? О ненавистнической риторике часто говорят так, будто это ошибка кодирования - "кошмар модерации контента", "общеотраслевая проблема", как ее описывают руководители различных платформ, которую необходимо решать с помощью "различных технических изменений", большинство из которых направлены на ублажение рекламодателей. Такие разговоры лишь укрепляют убежденность в том, что коллективная подноготная экстремистов, иностранных агентов, троллей и роботов - это эмерджентная черта самой системы, фантом, таинственно возникающий из кода, как Грендель, пробуждающийся из болота.

Самого Дональда Трампа, человека, чьему приходу к власти, возможно, помогли, а возможно, и нет, машины, часто включают в этот цифровой фантом, еще одно эмерджентное свойство озадачивающей сложности сети. Часто говорят, что он политик, который лучше других понимает или, по крайней мере, интуитивно понимает, как манипулировать системой, работающей на пустых знаках, - системой, которая настолько оторвалась от семантического смысла, настолько сведена к синтаксису, что можно просто бросить в эфир кучу бессмысленных фраз - то, что журналистка Маша Гессен называет "кучами слов", - и увести повествование от его первоисточника. Роберт А. Бертон, известный невролог, утверждал, что Трамп так хорошо разбирается в алгоритмах, потому что он сам является алгоритмом. В своей статье для New York Times в 2017 году Бертон утверждал, что президент обретает смысл, как только вы перестаете воспринимать его как человека и начинаете видеть в нем "рудиментарную обучающуюся машину на основе искусственного интеллекта". Как и системы глубокого обучения, Трамп действовал вслепую, методом проб и ошибок, записывая, какие ходы сработали в прошлом, и используя их для оптимизации своей стратегии, подобно AlphaGo, системе искусственного интеллекта, которая победила на чемпионате по го в Сеуле. Причина, по которой он так озадачил нас, заключается в том, что мы постоянно пытались антропоморфировать его, приписывая его решениям намерения и идеологию, как будто они проистекали из последовательной программы действий. Системы искусственного интеллекта добились такого дикого успеха, потому что они не обременены никакими рациональными или моральными соображениями - им не нужно думать о том, что является социально приемлемым, или принимать во внимание последующие последствия. У них есть одна цель - победа, и этот строгий единоличный интерес постоянно обновляется благодаря положительной обратной связи. Совет Бертона историкам и политикам - рассматривать Трампа как "черный ящик". "Поскольку в действиях сети нет логических обоснований, - писал он, - невозможно провести реинжиниринг сети, чтобы выяснить "почему" то или иное решение".

–

Несмотря ни на что, в той весне было что-то странно-чудесное. Это было не более чем ощущение, которое трудно выразить словами и которое всплывало лишь на короткое время, в паузах между нарастающими волнами паники. Оно было как-то связано с тишиной, опустившейся на мир: пустота улиц, некогда кишащих транспортом, затемненные витрины магазинов и ресторанов, неподвижность, которая, казалось, обитала в самом воздухе, качество которого, как утверждали, улучшилось из-за сокращения использования ископаемого топлива. Полагаю, это было чувство удивления от того, что вся система - все переплетающиеся сети, цепочки поставок и глобальные потоки капитала - была остановлена простым императивом сохранения человеческой жизни. Нас заставляли верить, что это невозможно сделать, но когда пришло время, это каким-то образом произошло. Мы просто выдернули вилку из розетки. Это было утверждение, что жизнь - не средство, а цель, - кредо, которое будет подтверждено еще раз тем же летом, во время протестов против убийства Джорджа Флойда, восстания, в котором осуждение исторической несправедливости и систематического расового насилия черпало свою энергию и моральное возмущение в лишении человека жизни.

Когда студенты уехали, университетский городок превратился в мертвую зону бруталистских зданий и неухоженных газонов. Ходить среди теней этих пустующих строений было все равно что бродить по руинам погибшей цивилизации: единственным признаком жизни был случайный робот, доставляющий еду, который все еще выполнял заказы. В какой-то момент люди начали выходить на улицу, и именно тогда, в течение не более чем пары недель, когда время казалось более многослойным и обильным, чем мы когда-либо знали, возникло ощущение общности, нетерпеливого и неторопливого тепла. Мы с мужем каждый день совершали долгие прогулки, неизбежно сталкиваясь со знакомыми, которые, как и мы, изголодались по человеческому общению, и наши разговоры по вечерам, когда мы стояли в лучах уходящего солнца, гладили их собак и разговаривали с их детьми, часто казались происходящими вне времени. В течение нескольких недель я обнаружил, что меня нехарактерно переполняют эмоции в ответ на самые незначительные вещи - ролики с итальянцами, находящимися на карантине, поющими на своих балконах, фотографии пожилых пар, целующихся через пластиковые больничные перегородки, - изображения, которые, казалось, обнажали некоторые истины, о которых современная жизнь заставила нас забыть. Мы были так уязвимы. Мы жили в хрупких телах, которые неизбежно умрут, и эти изображения однажды станут всем, что от нас останется. Это был период, когда казалось, что все происходит через призму исторической дистанции, как будто я наблюдаю за разворачивающимся настоящим, каким его запомнит будущее.

Но эта фаза, как я уже говорил, была удивительно короткой. Вскоре система вновь заработала в прежнем режиме, плавно впитывая в свою оперативную логику все нарушения и хаос того года. Контент продолжал поступать по информационному трубопроводу в привычной для нас манере, а смена темы не нарушала его основной формы. Пользователи Twitter, известные своими язвительными высказываниями, теперь писали цитаты Ковида, используя идентичный синтаксис; знаменитости, овладевшие искусством возмущения и тревоги, теперь делали это, публикуя фотографии переполненных пляжей в День поминовения или видео, на которых протестующих бьют слезоточивым газом. Эта плавность проявлялась на всех медиаплатформах и была наиболее заметна в разделах "Стиль жизни" крупных газет, которые без заминки переходили от меню званых ужинов и рекомендаций по путешествиям к советам о том, как эффективно забить морозильник, или где найти дизайнерские маски для лица, или как выглядеть лучше всех на звонке в Zoom.

Даже фондовый рынок, за которым следили так же навязчиво, как за любым оракулом, в первые месяцы пандемии оказался в основном стабильным - то есть совершенно не связанным с экономикой и людьми, которые ее населяют. В июне в журнале FiveThirtyEight была опубликована статья, в которой автор попытался понять, почему фондовые индексы продолжают расти, несмотря на то что все обычные показатели экономического здоровья - уровень занятости, цены на нефть, уверенность потребителей - указывают на рецессию. Автор пришел к выводу, что одной из возможных причин является преобладание алгоритмической торговли, благодаря которой рынки остаются изолированными от реальных условий, в которых живут обычные граждане, включая глобальные пандемии и массовые протесты. "Беспристрастные алгоритмы не волнуются и не пугаются новостей так, как это делают люди", - пишет он.