Чтение онлайн

Рис. 12.1. Сравнение суммарных процентных изменений производи-тельности и почасовой оплаты рабочих в США с 1948 по 2017 год (воспроизводится с разрешения из статьи Института экономической политики The Pay-Productivity Gap, 1948–2017, August 2018).

Форд утверждает, что такое же явление, хотя и в разное время, наблюдалось в 38 из 56 стран мира, включая Китай, где обыденность массовых увольнений вследствие автоматизации производства уже стала реальностью для рынка рабочей силы. В некоторых странах доля расходов на заработную плату сократилась еще в большей степени, чем в Соединенных Штатах. В результате за первое десятилетие XXI века произошло значительное увеличение социального и экономического неравенства и наметилась неприятная тенденция массового сокращения рабочих мест. Процитирую еще раз Мартина Форда: «По данным ЦРУ, неравенство доходов в США приблизительно сопоставимо с ситуацией на Филиппинах и существенно превышает аналогичные показатели в Египте, Йемене и Тунисе».

Еще хуже, что рождающиеся сейчас американцы, по-видимому, будут гораздо менее подвижны в экономическом плане, чем их сверстники из большинства европейских стран, а это, как справедливо замечает Форд, серьезно подрывает широко известное заявление о том, что американская мечта о карьерном росте за счет собственных усилий, достоинств и настойчивости все еще жива и здорова. Картина становится еще более пугающей, если вспомнить о том, что в современной мировой экономике исчезают не только низкоквалифицированные, производственные и другие рабочие профессии: цунами безработицы уже достигло райских берегов сферы белых воротничков и начало захлестывать специальности, исчезновение которых под натиском цифровой революции большинство людей не могли предвидеть. Давление испытывают журналисты, юристы, архитекторы, банковские клерки нижнего звена, врачи, ученые и, что забавно, даже высококвалифицированные работники самой сферы цифровой индустрии, которая запустила эту тенденцию. Как сообщает Форд, традиционная идея 1990-х годов о том, что ученая степень в области компьютерных наук или инженерии обеспечит молодым американцам хорошую позицию на рынке труда, в современных условиях становится мифом.

Форд приводит несколько примеров, иллюстрирующих ход мысли людей, которые не желают даже на тысячную долю секунды представить себе социальные проблемы мировой экономики, в которой 50 % или более трудоспособного населения на планете не имеют работы. Вспомним, к примеру, невероятно жесткое предсказание одного из основателей компании Momentum Mashines Александроса Вардакостаса, который сказал об основной продукции компании так: «Наше устройство не предназначено для того, чтобы повысить эффективность работы служащих… а для того, чтобы полностью от них отказаться».

Мы вернемся к этому парадоксу в главе 13, когда будем обсуждать интересное «совпадение», заключающееся в том, что такие экономические идеи выдвигают те же люди, которые объявляют человеческий мозг обычным цифровым компьютером, поддающимся имитации с помощью цифрового компьютера, причем с такой уверенностью, словно это истина в последней инстанции. Но сначала давайте проанализируем проблему, которая может оказаться еще более пугающей для будущего человечества, чем мир без работы.

Один из самых неприятных выводов, по крайней мере для меня, сделали некоторые известные американские экономисты, слова которых приводит в своей книге Форд; он заключается в том, что людям следует забыть о возможности соревноваться с машинами – вместо этого следует зализать раны, запрятать поглубже природную шовинистическую гордость и смириться с реальностью: по мнению этих экономистов, единственная полезная стратегия для выживания в будущем заключается в том, чтобы научиться подыгрывать машинам в роли второй скрипки. Иными словами, наша единственная надежда – стать воспитателями, помощниками и ассистентами машин и компьютеров – мягкая формулировка, означающая разжалование из творцов в ранг слуг и рабов. На самом деле, хотя большинство из нас об этом не подозревают, нечто похожее на этот сценарий уже происходит с летчиками, радиологами, архитекторами и высококвалифицированными специалистами широкого круга специальностей. Призыв к капитуляции прозвучал громко и четко, и в ответ некоторые группы людей уже складывают свое интеллектуальное оружие и признают поражение.

Но каким бы тревожным ни был этот сценарий, мне кажется, будущему человечества угрожает нечто еще более разрушительное – вытравление из нашего мозга тех самых черт, которые определяли суть человеческого существа с момента возникновения мозга современного человека примерно 100 тысяч лет назад. И это вовсе не сюжет плохого научно-фантастического фильма; по моему мнению, это вполне реальная и неприятная возможность, о которой уже говорили многие авторы, пришедшие к заключению о том, что наше непрерывное и глубокое погружение в цифровые технологии и полное подчинение им на протяжении каждой минуты нашей осознанной жизни (а теперь и за счет нескольких часов сна в сутки) может нарушить и быстро уничтожить основные функции нашего мозга, а также охват и диапазон их возможностей, не говоря уже о способности создавать все то, что определяет великолепие и исключительность человеческого существа. Если вас не тревожит мысль об отсутствии работы для 50 % населения, что вы скажете, если узнаете, что к моменту воплощения этого прогноза в реальность гораздо большее число людей превратится в биологических цифровых зомби, вместо того чтобы стать гордыми потомками и носителями генов и культурных традиций прежних представителей клана Homo sapiens, которые преодолели всевозможные угрожающие жизни препятствия от ледниковых периодов до голода и болезней и, несмотря на скромное происхождение от приматов, достигли расцвета и создали собственную человеческую вселенную благодаря желеобразному комку серого и белого органического вещества и одной пикотесле магнитной мощности?

Мой вывод, основанный на разнообразных данных и наблюдениях, полученных в рамках психологических и когнитивных исследований, заключается в том, что этот риск следует воспринимать очень серьезно. Человеческий мозг, самый умный нейронный хамелеон, когда-либо порожденный природой, подвергаясь влиянию нового мира статистических законов, особенно связанных с сильным гедоническим опытом, обычно меняет собственную внутреннюю органическую микроструктуру и использует перезаписанную информацию в качестве матрицы для будущих действий и поведения. Соответственно, в контексте нашего взаимодействия с цифровыми системами существует реальная возможность, что постоянно действующее позитивное подкрепление за счет непрерывного взаимодействия с цифровыми компьютерами, алгоритмической логикой и социальным общением, опосредованным цифровыми технологиями, если привести лишь несколько примеров, может постепенно изменить способы получения, хранения, обработки и использования информации нашим мозгом.

Основываясь на релятивистской теории мозга, я предполагаю, что этот непрерывный ежедневный натиск цифровых технологий способен просто-напросто разрушить нормальный процесс хранения и выражения гёделевской информации и формирования нашим мозгом невычисляемого поведения и усилить воздействие шенноновской информации и алгоритмического подхода на рутинную работу центральной нервной системы. Важно отметить, что эта гипотеза предсказывает, что чем больше мы окружаем себя предметами цифрового мира и чем сильнее наша обыденная и сложная жизнь планируется, диктуется, контролируется, оценивается и вознаграждается в соответствии с законами и стандартами алгоритмической логики цифровых систем, тем в большей степени наш мозг будет пытаться имитировать этот цифровой способ действия в ущерб биологически более обоснованной аналоговой ментальной функции и поведению, формировавшимся на протяжении тысячелетий под влиянием естественного отбора.

Эта гипотеза цифрового хамелеона предсказывает, что поскольку неуемная одержимость в использовании цифровых компьютеров оказывает глубокое влияние на наше восприятие внешнего мира и нашу реакцию на него, такие уникальные человеческие свойства, как эмпатия, сострадание, творчество, изобретательность, понимание, интуиция, воображение, нестандартное мышление, метафорическая речь и поэтические склонности, а также альтруизм, если назвать лишь некоторые типичные проявления невычисляемой гёделевской информации, просто увянут и исчезнут из репертуара человеческих ментальных способностей. Если рассуждать в этом же ключе на еще более глубоком уровне, легко представить себе, что в этом сценарии будущего тот, кто станет контролировать программирование окружающих нас цифровых систем, сможет диктовать человеческому мозгу будущий способ действия как на индивидуальном, так и на групповом уровне. Более того, я осмеливаюсь заявлять, что в долгосрочном плане этот контроль начнет оказывать сильнейшее влияние на эволюцию всего нашего вида.

Важно, что гипотеза цифрового хамелеона определяет нейрофизиологические рамки или основание для идеи, витавшей в воздухе с тех пор, как сэр Дональд МакКей впервые возразил против использования шенноновской информации для описания процесса обработки информации человеческим мозгом. В книге «Как мы становимся постлюдьми» Кэтрин Хейл пишет о том, что в конце Второй мировой войны «пришло время для теорий, которые превращали информацию в ненаправленную, количественно измеряемую и не зависящую от контекста сущность, которая может служить в качестве главного ключа к раскрытию секретов жизни и смерти». Забавно, что конкретный политический и экономический контекст послевоенной ситуации в США устранил множество интеллектуальных ограничений, которые могли предотвратить схождения с рельсов оторванной от контекста «теории локомотива» [37] еще до отхода от вокзала.

В книге «Закрытый мир» Пол Эдвардс рассказывает о том, как кибернетика и ее продукты – компьютерные науки и искусственный интеллект – попали под сильное влияние политики (и финансирования) Министерства обороны США во время холодной войны. Уже 8 июля 1958 года, всего через два года после того, как на исторической встрече в Университете Дартмута искусственный интеллект был официально признан новым направлением научных исследований, в New York Times была опубликована статья, заголовок которой – «Новое военно-морское устройство обучается в действии; психолог демонстрирует зародыш компьютера, способного читать и становиться умнее» – пророчил наступление времени, когда умные машины, созданные на средства Министерства обороны, заменят человека в вопросах принятия решений в области национальной безопасности, а также на рынке труда. Уже в конце 1950-х годов машина пропаганды – срощенный близнец искусственного интеллекта – работала на полную катушку; в тексте статьи было следующее заявление: «Сегодня Военно-морские силы продемонстрировали зародыш электронного компьютера, который, как ожидается, сможет ходить, говорить, видеть, писать, воспроизводить самого себя и осознавать собственное существование».

Нет необходимости говорить, что военные так и не смогли поиграть с сознательным говорящим устройством, за которое заплатили невероятные деньги. На самом деле даже сейчас, через шестьдесят лет после публикации той статьи в New York Times, у нас все еще нет никаких оснований полагать, что такое устройство вообще когда-нибудь увидит свет в США или где-либо еще. За прошедшие шесть десятилетий идея искусственного интеллекта прошла бесконечно длинную последовательность циклов взлетов и падений, которую мой добрый друг Александр Манковский, исполнительный директор компании «Даймлер-Мерседес» в Берлине, описал графиком, представленным на рисунке 12.2. В соответствии с рисунком Александра, этот цикл всегда начинается с новой формулировки старой идеи о том, что создание разумных машин – вопрос ближайшего будущего. Несколько лет растущего энтузиазма (и немалых государственных и частных вложений, например, от военных организаций, таких как Агентство перспективных оборонных исследовательских проектов DARPA) – и в итоге результаты оказываются обескураживающими, и все поле деятельности и все небольшие компании, возникшие на вершине этого бума, переживают нечто вроде локального вымирания пермского периода. Два подобных случая почти остановили исследования в области искусственного интеллекта навсегда. Отчет Лайтхилла [38] , подготовленный в ответ на запрос Британского научно-исследовательского бюро, практически разгромил идею искусственного интеллекта в начале 1973 года, показав, что великие надежды в этой области вовсе не были воплощены в жизнь. Последний провал касался создания так называемых японских роботов в рамках проекта, нацеленного на производство самостоятельных разумных механизмов, способных выполнять задания, которые может выполнять только человек. Трагический провал этой японской инициативы стал очевиден, когда ни один из японских роботов не смог проникнуть в поврежденные ядерные реакторы на станции Фукусима, чтобы осуществить необходимые ремонтные работы и смягчить последствия самой страшной ядерной аварии в истории страны. Проблему пришлось решать добровольцам, многие из которых пострадали, выполняя эту героическую работу. Тем временем новейшие японские роботы остались лежать поломанными на пути к смертоносным реакторам.