Чтение онлайн

В конечном итоге процесс, возведший на трон Церковь Рынка, внес вклад и в искусственное разложение традиционного образа жизни многих человеческих сообществ: не только тех, которые не смогли справиться со скоростью изменений, но и тех, кто жил в условиях процветающей экономики, как в Соединенных Штатах и в Западной Европе. Сегодня мы все живем в этой всеобщей жертвенной клетке, где ни институты, ни человеческое общество (а также, между прочим, человеческий мозг), по сути, не могут НЕ отставать от масштаба или скорости изменений, вызванных этими многочисленными трансформациями. Поскольку главный акцент и приоритет корпораций и наций сосредоточен на достижении финансовых целей и повышении производительности, ничто в нашей рутинной жизни, по-видимому, не может устоять и выжить под волной непрерывных изменений, требующихся от большей части человечества для достижения этих целей. Кажется, от всепроникающей жадности Церкви Рынка просто нет спасения. Это может объяснять невероятный уровень обеспокоенности и страха, охвативших весь мир: никому не гарантирована постоянная работа, приличное жилье, медицинское обслуживание, образование или даже видение ближайшего будущего, поскольку все находится в состоянии непрерывных изменений.

Это переполняющее ощущение глобальной непредсказуемости, переживаемое большей частью человечества, позволило польскому социологу и философу Зигмунту Бауману так описать момент, в котором мы сейчас живем: «То, что раньше (ошибочно) называли „постмодерном“, а я предпочел более точно назвать „текучей современностью“, сводится к все более широкому убеждению, что изменение – единственная неизменность, а неопределенность – единственная определенность. Сто лет назад „быть современным“ означало стремиться к „конечному состоянию совершенства“, сегодня это означает бесконечность улучшений, без какого-либо „конечного состояния“, которое никто не видит и не желает видеть» [41] . Бауман так диагностировал эти проблемы: «Я все больше склоняюсь к предположению, что сейчас мы оказались во времени „междуцарствий“, когда старые методы действия уже не работают, старые заученные или унаследованные способы существования больше не подходят для текущего conditio humana, но когда новые методы решения задач и новые модели жизни, лучше подходящие для новых условий, все еще не изобретены, не установлены и не запущены в действие. Формы современной жизни могут различаться по нескольким аспектам, но то, что их объединяет, это именно их хрупкость, временность, уязвимость и склонность к постоянным изменениям. „Быть современным“ означает модернизироваться – маниакально, одержимо; не столько „быть“, не говоря уже о сохранении идентичности, но постоянно „становиться“, избегая завершенности, определенности».

Бауман делает вывод: «Жизнь в текучих современных условиях можно сравнить с хождением по минному полю: каждый знает, что в любой момент и в любом месте может произойти взрыв, но никто не знает, когда этот момент наступит и в каком месте. На глобализованной планете эти условия универсальны – никто не является исключением, и никто не застрахован от последствий».

А вот пророческие слова Маршалла Маклюэна: «В настоящее время, когда человек с помощью электрической технологии вынес наружу свою центральную нервную систему, поле битвы переместилось в ментальное сотворение-и-сокрушение образов – как в войне, так и в бизнесе».

Издергавшись в этом состоянии непрерывных изменений, никто, по-видимому, не может теперь перестать думать о том, как человеческий мозг будет реагировать на эти новые условия жизни и как он выживет в том случае, если вместо твердой почвы у нас под ногами останется лишь жидкая прослойка между органическими сетями мозга и внешними правилами социальной и экономической жизни, наложенными на все человечество новой доминирующей и беспощадной религией.

В рамках мозгоцентрического видения, о котором я говорю в этой книге, эпоха избыточности Хобсбаума может быть описана как период в истории человечества, когда ментальная абстракция (капитализм) стала достаточно сильной, чтобы переформировать динамику человеческих взаимоотношений в глобальном масштабе, пересекая опасный предел и подталкивая человечество к черной дыре, из которой оно самостоятельно не сможет выбраться. По сути, такие ментальные конструкты, как рынок и деньги, а также бесконечное количество их производных, приобрели настолько важную роль в определении всех аспектов человеческой жизни и выживания, что со всеми взлетами, распространением и исчезновением с ранее невиданной и не испытанной человеческим мозгом скоростью эти абстракции приобрели уже собственную жизнь и тайком начинают угрожать выживанию разных важнейших аспектов человеческой культуры. Речь не только о войнах и геноциде, но также об экономических и политических проектах, поддерживающих и увеличивающих невероятный уровень неравенства и бедности, безработицы и социальных конфликтов, а также ущерба для окружающей среды в такой степени, что становится уже невозможно игнорировать угрозу массового самоуничтожения человечества. Эта угроза надвигается из разных источников и по разным направлениям – от изменения климата (в результате упорного нежелания большого бизнеса и правительств из-за стремления к быстрой финансовой прибыли прекратить использование ископаемого топлива) до глобальных пандемий, распространяющихся из-за продолжающегося сокращения общественного финансирования профилактической медицинской помощи, фундаментальных исследований, а также отсутствия самой примитивной медицинской страховки у миллиардов людей во всем мире.

Под влиянием доминирующего ментального конструкта нашего времени финансовая стоимость стала ключевой (и во многих случаях единственной) переменной, учитываемой при принятии всех политических, социальных и стратегических решений, включая те, которые определяют основные нужды людей и доступ к соответствующим ресурсам, в числе которых новые технологии, необходимые для удовлетворения этих нужд. Не смешно ли, что под эгидой этой ментальной абстракции современные правительства, обычно с одобрения неосведомленных избирателей, продолжают говорить об обеспечении питания и образования для наших детей, здравоохранения для нашего общества, достойного жилья для всех семей и определенного уровня возможностей для людей, которым все в большей и большей степени не хватает минимальных средств для воплощения своих надежд и полной реализации возможностей человеческого существа. Как мы можем быть столь наивными и продолжать полагаться на политическую систему, управляемую группами людей со специфическими интересами и мировым финансовым лобби и восхваляемую продажными средствами массовой информации в качестве истинно демократической?

В 1949 году Альберт Эйнштейн опубликовал небольшую статью, в которой описывал свои впечатления о влиянии капитализма на жизнь людей того времени. В том, что сегодня можно было бы назвать «Докладом Эйнштейна о столетнем прогрессе», великий человек писал о капиталистической утопии следующее: «Существует тенденция концентрации частного капитала в нескольких руках, отчасти из-за соревнования между капиталистами, отчасти по той причине, что технологическое развитие и усиливающееся разделение труда способствуют образованию более крупных производств в ущерб более мелким. Результатом такого развития является олигархия частного капитала, невероятная мощь которого не может эффективно контролироваться даже демократически организованным политическим обществом. Это так, поскольку члены законодательных органов избираются политическими партиями, в значительной степени финансируемыми или иным образом направляемыми владельцами частного капитала, которые по всем практическим соображениям отделяют электорат от законодателей. Следствием является то, что представители народа на самом деле не защищают достаточным образом интересы непривилегированных слоев населения. Более того, в существующих условиях представители частного капитала неизбежно контролируют, прямо или косвенно, основные источники информации (прессу, радио, образование). Таким образом, отдельным гражданам чрезвычайно сложно и на самом деле в большинстве случаев почти невозможно прийти к объективным заключениям и разумно использовать свои политические права».

Но сконцентрированное на деньгах описание человеческой вселенной демонстрирует лишь одну половину опасности, угрожающей человечеству в ближайшем будущем. Культ Машины – вторая ментальная абстракция, ответственная за приближение идеального шторма, грозящего будущему человеческой природы, и она не менее опасна, поскольку в конечном итоге ее Граалем, ее высшей целью является полное устранение из мировой экономики человеческого труда. В наше время Культ Машины предполагает, что путем сочетания современных технологий в сфере искусственного интеллекта и робототехники большинство форм работы, осуществляемой сегодня людьми, будет вверено новому поколению разумных машин и экспертных систем, основанных на цифровой логике. Более того, цель этой человеческой антиутопии заключается в том, чтобы заменить человеческий мозг некоторого рода цифровой симуляцией с помощью очень мощного суперкомпьютера, что в конечном итоге позволит имитировать и воспроизводить все элементы и свойства, определяющие человеческое существо, хотя, как мы обсуждали в предыдущих главах, в реальности не цифровые компьютеры смогут имитировать человеческий мозг, а скорее человеческий мозг начнет подражать цифровым компьютерам.

Приверженцы идеи искусственного интеллекта с энтузиазмом заявляют, что замена человека машинами установит рай на земле. Они утверждают, что при завершении процесса рабочего замещения себя машинами миллиарды людей получат массу свободного времени для того, чтобы исследовать пределы наших творческих возможностей и способностей и заниматься всякого рода интеллектуальными делами и досугом. Конечно, этот новый стиль жизни, получается, будет реализован за счет массовой безработицы; и еще одна маленькая деталь: по-видимому, от внимания творческих людей, предлагающих заменить нас компьютерными кодами, экспертными системами и человекоподобными роботами, ускользнул вопрос о том, каким образом каждый из нас, живя в этом контролируемом машинами рае на земле, сможет зарабатывать на наслаждение этим новым стилем жизни и по-прежнему питаться, одеваться, перемещаться, платить за жилье и по кредитам, а также отправлять детей в школу. Кто-то предположил, что, как только машины займут большинство рабочих мест, каждому из нас следует установить минимальный доход, покрывающий жизненные потребности. Интересно, что не так много говорится о том, кто же будет заниматься определением этого минимального дохода и что и для кого может означать выражение «минимальные жизненные потребности». Не нужно быть конструктором ракет или нейробиологом, чтобы понять, что в представлениях пророков искусственного интеллекта эта работа может быть поручена только величайшему оракулу нашего времени – Церкви Рынка! Учитывая, какой совет этот оракул дал в отношении минимальных жизненных потребностей греков, я настроен весьма скептически, если не сказать категорически против того, чтобы поручать принятие такого судьбоносного решения ментальной абстракции, не имеющей никакой человеческой эмпатии.

Сейчас важно задать вопрос: почему эта безумная игра в бога и желание производить машины, пытающиеся заменить людей и даже человеческий мозг, заразили многих блестящих ученых? И почему идея искусственного интеллекта встала на первое место на повестке дня деловых кругов в качестве потенциального решения всех проблем и панацеи от всех забот человечества на этой стадии развития, несмотря на все ее широко известные чудовищные недостатки?

Я считаю, что ажиотаж вокруг исследований в области искусственного интеллекта и его современных и будущих приложений проистекает из слияния воедино двух главных ментальных абстракций нашего времени – Церкви Рынка и Культа Машины. Как я полагаю, возникшая в результате этого слияния навязчивая идея внедрения искусственного интеллекта во многих отраслях промышленности связана с ложным представлением о том, что путем замены человеческого труда или его жесточайшего сокращения в этих сферах удастся очень значительно снизить производственные расходы, включая самые неприятные затраты на оплату человеческого труда, и при этом поднять прибыль до небес. В таком случае экономические рассуждения в основе этого нового толчка в развитии искусственного интеллекта, по-видимому, можно описать следующим образом: если компания показывает, что элемент кода или умный робот справляется с функцией опытного рабочего, она получает невероятное преимущество в отношении затрат и прибыли, которые практически невозможно сравнивать с таковыми при использовании человеческого труда. Соответственно, по моему мнению, занижение ценности человека и его физических и умственных способностей путем заявлений (и, возможно, демонстрации) о том, что кусок металла или несколько тысяч линий кода могут делать дело лучше, чем рабочие, которые его делали раньше, является частью хорошо продуманной стратегии современных капиталистов и большого бизнеса, направленной на получение почти бесконечной прибыли. Единственная проблема заключается в том, что они, по-видимому, забыли заключить соглашение с экономистами и учеными, которые не готовы скрывать свое мнение и подтверждающие его данные о том, что это утверждение современных капиталистов является ложным и крайне аморальным. Я говорю так, поскольку большинство из этих «предпринимателей в сфере высоких технологий» либо не знают, либо не беспокоятся о возможных социальных последствиях уничтожения миллионов рабочих мест из-за внедрения своих творений. Более того, они оставляют в стороне серьезную проблему, заключающуюся в том, что увольнение трудящихся также приведет к массовому сокращению как размера, так и покупательной способности их же потребительской базы.

Но продвижение идеи искусственного интеллекта направляется не только деньгами. Вообще говоря, современная «золотая лихорадка» в поисках искусственного интеллекта также объясняется расширенным и достаточно пугающим тезисом Оруэлла, стоящим за большинством современных стратегий и планов на будущее: «Тотальный контроль ради тотальной безопасности!»

Купившись на эту антиутопию, некоторые правительства представили своим избирателям ложную идею о том, что для обеспечения всеобщей безопасности в отношении всех возможных врагов – реальных и воображаемых – людям нужно согласиться на отказ от неприкосновенности частной жизни и разрешить официальное наблюдение, позволяющее осуществлять тотальный контроль граждан. Как элемент этого кошмара некоторые правительства надеются использовать технологии искусственного интеллекта для предсказания любого решения и перемещения каждого из своих граждан. Конечной целью активнейшего стремления внедрения искусственного интеллекта со стороны оборонных и разведывательных служб всего мира является не что иное, как установление «государства тоталитарной слежки» – тоталитарного режима нового типа, в котором данная технология используется правительством для предвосхищения действий и, при желании, даже мыслей каждого индивидуума. В этом оруэлловском мире потенциальные «преступления против государства» можно обнаружить в зародыше в головах отдельных людей еще до того, как они воплощаются в реальном мире в виде тех или иных действий. Кто-то может заявить, что это очень полезно для снижения уровня преступности, но важно подчеркнуть, что, даже если такая технология будет реализована, государство легко может злоупотребить ею для создания идеального метода полицейского надзора на невиданном ранее уровне. По сравнению с таким инструментом политических преследований сталинский НКВД и гитлеровское гестапо покажутся детскими игрушками.

Забавно, что эта золотая мечта диктаторов, разведывательных служб и военных и гражданских деспотов родилась вовсе не в структурах государственных аппаратов современных стран. Она была выдвинута и впервые приведена в действие в рамках нового бизнес-плана одной из самых знаменитых компаний Силиконовой долины теми самыми предпринимателями, которые всего несколько лет назад торжественно обещали не использовать во зло преимущества своей растущей монополии в интернете. Эта новая бизнес-практика, выношенная и выпущенная с оглушительным успехом компанией Google, была передана ее руководством другой гигантской интернет-компании – Facebook. Эта история была описана почетным профессором Гарвардской школы бизнеса Шошаной Зубофф в книге «Эпоха надзорного капитализма: борьба за человеческое будущее на новой границе власти», опубликованной в 2018 году, когда я готовил последнюю версию этой главы. Профессор Зубофф очерчивает тот же сценарий вмешательства в частную жизнь, который я изложил несколькими абзацами выше в качестве новой бизнес-модели, выдвинутой компанией Google. Зубофф называет брак по расчету между Церковью Рынка и Культом Машины «надзорным капитализмом». В ее определении надзорный капитализм – это «новый экономический порядок, который объявляет человеческий опыт бесплатным сырьевым материалом для скрытой коммерческой практики добычи, предсказаний и продажи». В полном соответствии с моими утверждениями профессор Зубофф полагает, что надзорный капитализм представляет собой «такую же серьезную угрозу человеческой природе двадцать первого века, какую представлял промышленный капитализм для мира природы в девятнадцатом и двадцатом». Она также утверждает, что эта «неконтролируемая мутация капитализма» позволила появиться «новым инструментам власти, которые обеспечивают господство над обществом и представляют невероятную угрозу для рыночной демократии».