Чтение онлайн

Конечно, гораздо проще свалить вину за несправедливость на ошибочные алгоритмы, чем осмысленно бороться с тем, что они рассказывают о нас и нашем обществе. Во многих случаях наши отражения, которые создают эти машины, глубоко нелестны. В качестве примера можно вспомнить Тэй, чат-бота с искусственным интеллектом, выпущенного компанией Microsoft в 2016 году, который был создан для общения с людьми в Twitter и учился на основе своих действий с пользователями. Уже через шестнадцать часов она начала изрыгать расистские и сексистские оскорбления, отрицать Холокост и заявлять о поддержке Гитлера. Еще более показательной была нейросеть, обученная на изображениях прошлых президентов США, которая летом 2016 года предсказала победу Дональда Трампа на предстоящих выборах. В течение нескольких месяцев этот факт приводился в качестве примера того, как легко ИИ может ввести в заблуждение. Как отметил один из исследователей Google, за несколько дней до выборов, поскольку в наборе данных не было женщин-президентов, "ИИ не смог сделать вывод, что пол не является релевантной характеристикой для модели". Учитывая исход тех выборов и то, как часто разговоры о них возвращались к роли женоненавистничества и двойных стандартов, можно утверждать, что алгоритм был прав, предполагая, что пол действительно является релевантной характеристикой. Машина знала нас лучше, чем мы сами.

Для Арендт проблема заключалась не в том, что мы продолжали создавать вещи по своему образу и подобию, а в том, что мы наделяли эти артефакты некой трансцендентной силой. Вместо того чтобы сосредоточиться на том, как использовать науку и технологии для улучшения условий жизни человека, мы стали верить, что наши инструменты могут соединить нас с высшими истинами. Желание отправить человека в космос стало для нее метафорой этой мечты о научной трансцендентности. Она пыталась представить себе, как выглядит Земля и земная человеческая деятельность, находясь так далеко за ее поверхностью:

Если мы посмотрим с этой точки вниз на происходящее на земле и на различные виды деятельности людей, то есть применим архимедову точку к себе, то эти виды деятельности действительно покажутся нам не более чем "явным поведением", которое мы можем изучать с помощью тех же методов, что и поведение крыс. Если смотреть с достаточного расстояния, то автомобили, на которых мы ездим и которые, как мы знаем, построили сами, будут выглядеть так, как будто они, по выражению Гейзенберга, "являются такой же неотъемлемой частью нас самих, как раковина улитки - для ее обитателя". Вся наша гордость за то, что мы можем сделать, исчезнет, превратившись в некую мутацию человеческой расы; вся технология, рассматриваемая с этой точки зрения, на самом деле уже не выглядит "как результат сознательных человеческих усилий по расширению материальных возможностей человека, а скорее как крупномасштабный биологический процесс". В этих условиях речь и повседневный язык действительно перестали бы быть осмысленным высказыванием, которое выходит за рамки поведения, даже если оно его только выражает, и его гораздо лучше было бы заменить предельным и сам по себе бессмысленным формализмом математических знаков.

Проблема заключается в том, что точка зрения, столь далекая от человеческой природы, не может объяснить человеческую деятельность. Взгляд на Землю с Архимедовой точки заставляет нас рассматривать наши изобретения не как исторический выбор, а как часть неумолимого эволюционного процесса, который полностью детерминирован и телеологичен, подобно повествованию Курцвейла о Сингулярности. Мы сами неизбежно становимся лишь винтиками в этой машине, неспособными толком объяснить свои действия, поскольку единственным верным языком является язык квантификации, который машины понимают гораздо лучше, чем мы.

Примерно об этом предупреждал Джарон Ланье в своем ответе на предложение Криса Андерсона отказаться от научного метода и обратиться за ответами к алгоритмам. "Смысл научной теории не в том, чтобы ангел оценил ее", - писал Ланье. "Ее цель - постижение человеком. Наука без поиска теорий означает науку без людей". В конечном итоге мы отказываемся от своей обязанности создавать смысл на основе наших эмпирических наблюдений, чтобы определить для себя, что такое справедливость, мораль и качество жизни, - от этой задачи мы отказываемся каждый раз, когда забываем, что смысл - это неявная человеческая категория, которую нельзя свести к количественной оценке. Забыть эту истину - значит использовать наши инструменты в ущерб нашим собственным интересам, создавать машины по нашему образу и подобию, которые не делают ничего, кроме как дегуманизируют нас". Арендт цитирует Кафку, который лаконично подытоживает дилемму: человек, по его словам, "нашел архимедову точку, но использовал ее против себя; кажется, что ему было позволено найти ее только при этом условии".

Глава 13

Самые удачные метафоры становятся невидимыми благодаря повсеместному распространению. То же самое можно сказать и об идеологии, которая, становясь все более интегрированной в культуру, теряет свои контуры и характерные очертания и окончательно растворяется в чистой атмосфере. Хотя цифровые технологии составляют основную архитектуру информационного века, о них редко говорят как о системе мышления. Ее неспособность придерживаться идей или убеждений, предпочтений или мнений часто ошибочно воспринимается как отсутствие философии, а не как описание ее постулатов. Центральным столпом этой идеологии является ее концепция бытия, которую можно описать как онтологию пустоты - великого опустошения качеств, содержания и смысла. Эта онтология питает ее эпистемологию, которая утверждает, что знание заключается не в самих понятиях, а в отношениях, которые их образуют, и которые могут быть обнаружены искусственными сетями, не имеющими никакого истинного знания о том, что они открывают. А поскольку глобальные сети охватывают все больше и больше наших человеческих отношений, становится все труднее говорить о нас самих - узлах этого огромного мозга - как о живых агентах с убеждениями, предпочтениями и мнениями.

Термин "вирусные медиа" был придуман в 1994 году критиком Дугласом Рашкоффом, который утверждал, что интернет стал "продолжением живого организма", охватившего весь мир и радикально ускорившего распространение идей и культуры. К тому времени идея о том, что законы биосферы могут быть применимы к сфере данных, уже стала само собой разумеющейся благодаря теории мемов - термину, который придумал Ричард Докинз, чтобы показать, что идеи и культурные явления распространяются среди населения примерно так же, как гены. iPod - это мемы, как и юбки для пуделей, коммунизм и протестантская реформация. Главным преимуществом этой метафоры стала ее способность объяснить, как артефакты и идеологии воспроизводят себя без участия сознательных субъектов. Как вирусы заражают носителей без их ведома или согласия, так и мемы имеют единственную "цель" - самосохранение и распространение, которой они достигают, цепляясь за носителя и захватывая его репродуктивный механизм для своих целей. То, что эта полностью пассивная концепция человеческой культуры требует неловкого перераспределения полномочий в пользу самих идей - воображения, что у мемов есть "цели" и "задачи", - обычно объясняется как фигура речи.

Когда Рашкофф начал писать о "вирусных медиа", интернет был еще в самом разгаре, и он, как и многие в то время, считал, что этот высокосетевой мир принесет пользу "людям, лишенным традиционной политической власти". Система, которая не знает о личности или статусе пользователя, теоретически должна быть радикально демократичной. Теоретически она должна нивелировать существующие иерархии и создать равные условия для игры, позволяя самым мощным идеям процветать, подобно тому как самые успешные гены процветают под равнодушным взглядом природы. Однако к 2019 году Рашкофф стал настроен пессимистично. Оказалось, что слепая логика сети не так слепа, как кажется, - точнее, ею могут манипулировать те, кто уже обладает огромными ресурсами. "Сегодня методы партизанских медиаактивистов "снизу вверх" находятся в руках самых богатых корпораций, политиков и пропагандистов мира", - пишет Рашкофф в своей книге Team Human. Более того, оказывается, что слепота системы не гарантирует ее рассудительности. В условиях жесткой конкуренции в СМИ показатели успеха стали чисто количественными - просмотры страниц, клики, доли - и поэтому потенциал распространения часто ставится выше достоинств или достоверности контента. "Неважно, на чьей стороне находится человек, важно, чтобы мем повлиял на него и спровоцировал на его повторение", - пишет Рашкофф. На самом деле самые успешные мемы вовсе не апеллируют к нашему интеллекту. Как распространение нового вируса зависит от организма, который еще не выработал эффективный иммунный ответ, так и самые эффективные мемы - это те, которые обходят стороной рациональный разум и вместо этого запускают "наши самые автоматические импульсы". Эта логика заложена в алгоритмы социальных сетей, которые воспроизводят контент, вызывающий самые экстремальные реакции, и которые в сочетании со слепым и неумолимым диктатом свободного рынка способствуют тому, что один журналист назвал "глобальными соревнованиями за внимание в режиме реального времени".

Весной 2020 года, когда вирус Covid-19 начал распространяться по Соединенным Штатам, Пол Эли написал в журнале The New Yorker о том, как сильно наша культура за последние два десятилетия отвыкла от языка и образов вирусов. По мере того как индустрия за индустрией, от развлечений до журналистики и издательского дела, становились озабоченными тем, как использовать силу размножения и распространения, мы стали рассматривать вирусность как нечто, к чему нужно стремиться. То, что мы использовали терминологию, унаследованную от эпидемиологии, - "кривая", "точка перегиба", - было для нас давно забытой истиной. Вместо этого мы прославляли и стремились подражать тем, кто обладал силой, способной сделать информацию вирусной. Как отметил Эли, термин "инфлюэнсеры" - те мастера вирусности, которые извлекают выгоду из своего присутствия в социальных сетях, - является этимологическим отростком слова "инфлюэнца". Подобно тому, как Сьюзен Сонтаг предостерегала от соблазна говорить о таких болезнях, как рак и СПИД, в образных выражениях, Эли считает, что повсеместное распространение вирусной метафоры вызывает беспокойство. "Возможно, наша любовь к вирусу как метафоре мешает нам воспринимать вирусы как потенциально опасные, даже смертоносные биологические явления", - пишет он. "В свою очередь, наша несклонность воспринимать вирусы как буквальные явления, возможно, мешает нам настаивать на соблюдении стандартов и практик, которые могли бы предотвратить их распространение".

Это наблюдение оказалось прозорливым, хотя повсеместное распространение метафоры стало опасным в гораздо более коварных аспектах. В мире, где корреляции, петли обратной связи и другие сетевые эффекты рассматриваются как самостоятельная реальность, самыми ценными экспертами становятся не те, кто понимает содержание вируса - болезни, - а тренды и модели, отслеживающие ее развитие. В первые дни пандемии едва ли можно было заглянуть в спиральный ужас социальных сетей, не наткнувшись на какого-нибудь вундеркинда из Кремниевой долины, который всю ночь анализировал открытые массивы данных и охотно делился графиками своих собственных прогнозов - явление, которое один (настоящий) эксперт по болезни объявил чрезвычайной ситуацией в области общественного здравоохранения - "эпидемией эпидемиологов в креслах". Эта пандемия самопровозглашенных экспертов продолжала развиваться параллельно с реальной пандемией, и часто казалось, что они работают над достижением общей цели. Технологическая компания Nomi Health, получившая государственные контракты на 80 миллионов долларов и поручившая проведение испытаний в четырех штатах, - проект, который быстро развалился из-за плохого планирования и нехватки оборудования (у основателей не было медицинского опыта), - стала лишь самой известной из этих катастроф.

Ранним признаком этой опасности, который можно было бы запомнить как предупреждение, если бы за наше внимание не боролось так много других вещей, стало широко распространенное сообщение на Medium Аарона Гинна, тридцатидвухлетнего "хакера роста", специализирующегося на содействии вирусному внедрению новых технологических продуктов. Гинн объяснил панику по поводу коронавируса "истерией", утверждая, что она возникла из-за ошибочных моделей. "Я достаточно опытен в понимании вирусности, того, как вещи растут, и данных", - написал он. В статье, основанной на данных, полученных от CDC и ВОЗ, делается вывод, что существующие модели основаны на "тщеславных показателях" - типе данных, которые не имеют контекста и легко манипулируются (тщеславные показатели часто используются стартапами, чтобы создать впечатление, что они растут быстрее, чем на самом деле). Можно было бы предположить, что человек, столь осведомленный об опасностях деконтекстуализации, проявил бы большую осторожность в применении логики стартапов к глобальной пандемии, но эта ирония, похоже, не пришла автору в голову. Надеясь сдержать критику по поводу того, что он не эпидемиолог, Гинн апеллировал к основополагающему постулату кибернетики: информация - это универсальная метафора, структуры и модели которой остаются идентичными в различных дисциплинах. "Данные есть данные...", - сказал он. "Вам не нужна специальная степень, чтобы понять, что говорят и чего не говорят данные. Числа универсальны".