Чтение онлайн

Рис. 12.2. Цикл взлетов и падений исследований в области искусственного интеллекта за несколько последних десятилетий (рисунок Кустодио Роса).

Однако к концу Второй мировой войны было уже почти невозможно отрицать мощь цифровых компьютеров – идеальных машин, способных использовать шенноновскую информацию на полную катушку. Это заставило многих предположить, что симуляция возможностей человеческого мозга – лишь вопрос времени. Размышляя о духе той эпохи, специалист в области компьютерных технологий из Массачусетского технологического института (МИТ) Джозеф Вейценбаум, который в 1960-х годах создал одну из первых интерактивных компьютерных программ (ELIZA), сказал следующее: «К тому времени, когда цифровые компьютеры возникли в университетских лабораториях и вошли в американские деловые, военные и промышленные структуры, не существовало сомнений в их потенциальной пользе. Напротив, американские управляющие и технический персонал соглашались, что компьютеры появились как раз вовремя, чтобы предотвратить катастрофический кризис: если бы не своевременное появление компьютеров, как утверждалось, не было бы достаточного количества людей для работы в банках, для решения все более сложных коммуникационных и логистических проблем американских вооруженных сил, рассеянных по всему миру, и невозможно было бы поддерживать торговлю ценными бумагами и обмен товарами… Беспрецедентно большие и сложные вычислительные задачи ждали американское общество в конце Второй мировой войны, и компьютер почти волшебным образом прибыл как раз вовремя, чтобы с ними справиться».

Однако Вейценбаум быстро пришел к заключению, что это «своевременное волшебство» оказалось не более чем коллективным ментальным конструктом – духом времени, овладевшим всеми сторонами, заинтересованными во внедрении компьютеров во все сферы американской жизни, учитывая, что разворачивавшееся после этого будущее в то время не было единственно возможным. В подтверждение своей идеи он говорил, что большинство военных проектов, включая Манхэттенский проект по созданию атомной бомбы, были успешно реализованы без масштабного внедрения компьютеров. Все необходимые вычисления, от самых рутинных до самых сложных, выполнял человеческий мозг. Безусловно, компьютеры значительно ускорили этот процесс, но они не ввели никакого нового понимания или знания (науки), которые получили бы преимущества от их внедрения. Вообще говоря, Вейценбаум полагает, что, хотя значительное число первых пользователей считало компьютер незаменимым инструментом, это не означало, что так оно и было. В эти первые дни цифровых вычислительных машин скорость достижения конечного результата стала ключевым параметром, определившим скорейшее внедрение компьютеров в большинство сфер жизни американцев. Как пишет Вейценбаум, «цифровой компьютер не был обязательным элементом для выживания современного общества в послевоенный период и после него; энтузиазм и отсутствие критической оценки при его внедрении со стороны большинства „прогрессивных“ представителей американского правительства, бизнеса и промышленности быстро сделали его незаменимым ресурсом для выживания общества в такой форме, которую формировал сам компьютер». За последние десятилетия это же мнение подтвердили многие другие авторы. Например, Пол Эдвардс вторит Вейценбауму, утверждая, что «инструменты и их использование составляют неотъемлемую часть человеческих рассуждений и через рассуждения не только напрямую формируют материальную реальность, но также ментальные модели, концепции и теории, которые направляют это формирование».

Это означает, что наше непрерывное и все усиливающееся взаимодействие с компьютерами, вероятно, изменяет требования, которые мы ставим перед нашим мозгом в процессе, совершенно очевидно не лишенном риска. Рассмотрим в качестве примера ориентирование на местности. За миллионы лет тонкая способность распознавать детали окружающего природного мира буквально отпечаталась в нейронной плоти нашего мозга. Вот почему структуры мозга, такие как гипоталамус (и, возможно, моторная кора, как мы обсуждали в главе 7), содержат нейронные образы пространства, позволяющие нам выстраивать оптимальные стратегии передвижения в окружающем мире. Интересно, что исследования с визуализацией мозга, проведенные учеными из Университетского колледжа Лондона, показали, что гипоталамус опытных лондонских таксистов намного крупнее, чем у тех, кто не водит машину ежедневно по всем уголкам непростой английской столицы. Однако загвоздка в том, что эти исследования проводились на водителях, которые не учились пользоваться современными цифровыми системами навигации. Поскольку навигация с помощью GPS стимулирует совсем другие мозговые цепи, нежели те, которые задействованы при естественном ориентировании, можно почти наверняка предсказать, что у более молодого поколения лондонских таксистов гипоталамус вряд ли окажется увеличен. Но не сократится ли у них объем гипоталамуса ниже порогового нормативного уровня для обычного взрослого человека? Об этой возможности упоминали некоторые нейробиологи, обеспокоенные тем, что в таком случае риску подвергнется не только естественная способность ориентироваться, но также и многие другие когнитивные навыки, зависящие от целостности человеческого гипоталамуса. Короче говоря, вполне возможно, что с проблемами такого рода в ближайшие десятилетия столкнутся сотни миллионов людей, использующих новые цифровые стратегии: произойдет свертывание органического нейронного аппарата, встроенного в наш мозг в результате селективного давления сотни тысяч или даже миллионы лет назад. И это ощутимый повод для беспокойства. Серьезного беспокойства.

Вообще говоря, хотя в сфере искусственного интеллекта пока не удавалось получить ничего похожего на сверхчеловеческий разум, полемика по этому вопросу создает для нашего мозга больше проблем в другом отношении: речь идет о нашей способности отличать реальное научное достижение от простой рекламы, направленной на продажу продукта. Успешная демонстрация искусственного интеллекта, как в случае поражения шахматистов и чемпионов мира по игре в Го, широко обсуждалась сторонниками искусственного интеллекта и помогала создавать общее ощущение, что в долгосрочном плане искусственный интеллект сможет сбросить с пьедестала человеческий разум. На самом деле все эти новые подходы основаны на старых алгоритмах, манипулируют известными статистическими идеями и в лучшем случае усиливают способность современных систем реализовывать функцию распознавания. Например, несмотря на свое помпезное название, Deep Learning – не что иное, как изобретенная в 1970-х годах искусственная сеть нейронов, в алгоритм которой добавлено намного больше вычислительных стадий (также называемых скрытыми слоями). Такой ход позволяет повысить качество распознавания системой искусственного интеллекта, но не ликвидирует основные недостатки, неизменно имеющиеся у подобных программ с самого момента их появления шестьдесят лет назад: системы искусственного интеллекта находятся в плену у старой информации и правил, использованных для построения их баз данных, а также заложенных в систему тренировочных данных. Они не могут создавать новых знаний. В этом смысле искусственный интеллект, по сути, отражает мечту Лапласа о полностью предсказуемой вселенной, в которой будущее целиком определяется прошлым. В таком случае, если подобная система, предназначенная для сочинения музыки, тренируется исключительно на симфониях Моцарта, она никогда не сможет создавать музыку другого плана, такую как музыка Баха, Бетховена, группы Beatles или Элтона Джона. Дело в том, что искусственный интеллект вообще ничего не создает; он ничего не понимает; он не делает выводов. Он лишь выдает обратно то, чем его накормили, – заметим, накормили человеческие руки. Если у «разумных систем» чего-то и не хватает, так это как раз разума – в человеческом понимании слова. Так что, если использовать человеческие критерии интеллекта в качестве золотого стандарта производительности, системы искусственного интеллекта неизбежно обречены на позорный провал.

Но проблема в том, что искусственному интеллекту сегодня и не требуется обойти человеческий интеллект, чтобы стать сильнее нас в будущем. Такое будущее может наступить в результате гораздо более хитрого и реального трюка – укрепления взаимодействия человеческого мозга с цифровыми системами до тех пор, пока, загнанный в угол Истинный творец всего не найдет другой рабочей альтернативы, кроме как самому стать одной из таких систем. Как тонко подметил писатель Николас Карр, «когда мы начинаем использовать компьютеры для помощи в понимании мира, наш собственный разум сжимается до искусственного».

Обратная ситуация, как мы видели (см. главу 6), невозможна. Следовательно, если произойдет самое худшее и следующие поколения людей не будут обладать истинным диапазоном человеческих возможностей в том виде, как это было до сих пор, нам останется винить только самих себя. Как часто бывает, прежде чем такие сценарии, как сингулярность или даже моя гипотеза цифрового хамелеона, становятся темой научных дискуссий, они разыгрываются самостоятельно и доходят до общества в виде научной фантастики. В книге «Как мы становимся постлюдьми» Хейлс описывает реализацию концепции постчеловеческой эпохи в нескольких популярных научно-фантастических книгах. Например, Хейлс анализирует основную интригу нейробиологического триллера Нила Стивенсона «Лавина», которая вращается вокруг того, что некий вирус инфицирует умы людей всей планеты и превращает их в биологические машины, лишенные даже следов истинного сознания, свободы воли, способностей к взаимопомощи или индивидуальности.

Эта чудовищная перспектива обретает смысл, если учесть предпосылку кибернетического движения, состоящую в том, что мозг просто подобен устройству по переработке шенноновской информации. Понятное дело, я так не думаю. Но я боюсь, что наше постоянное взаимодействие с цифровой логикой, особенно в тех случаях, когда оно завершается мощным гедоническим опытом, постепенно приведет к компромиссу или даже к уничтожению некоторых типов поведения и когнитивных возможностей, составляющих самые изобретательные и ценные атрибуты человеческого существа. Как это может произойти, если человеческий мозг не является машиной Тьюринга и при вычислениях не опирается на шенноновскую информацию? На самом базовом уровне многие гены в геноме человека, отобранные в результате множества эволюционных событий, взаимодействуют в рамках «генетической программы», ответственной за сборку естественной трехмерной структуры мозга в пренатальном и в раннем постнатальном периодах. Это генетическое программирование гарантирует, что исходная физическая конфигурация нашего мозга отражает эволюционный процесс, происходивший на протяжении миллионов лет, пока современный план строения центральной нервной системы человека не сформировал базовую нейронную структуру, возникшую у анатомически современного человека около сотни тысяч лет назад. После рождения программирование мозга продолжается за счет его двустороннего взаимодействия с телом и окружающей средой. Постоянное погружение в человеческую культуру и изобилие социальных связей дополнительно «программируют» центральную нервную систему. Однако это не единственный способ влияния на наш мозг. Механические, электронные и цифровые устройства также могут быть ассимилированы в вычисления нашего разума, как доказывает моя работа с интерфейсом «мозг-машина». Я же считаю, что мозг может не только ассимилировать функцию цифрового устройства, но и стать им.

В 1970-х годах Джозеф Вейценбаум был поражен удивительными результатами, которые получали люди, начавшие работать с его программой ELIZA. По мнению Вейценбаума, цифровые компьютеры были последним вкладом в длинную последовательность интеллектуальных технологий, таких как карты и часы, кардинально изменивших наше восприятие и ощущение реальности. Проникнув в нашу жизнь, эти технологии были ассимилированы в качестве «того самого материала, из которого человек строит свой мир». В этой связи Вейценбаум беспокоился, что «внедрение компьютеров в сложную человеческую деятельность может представлять собой необратимый шаг». По его мнению, «интеллектуальная технология [вроде компьютера] становится незаменимым компонентом любой структуры, и как только она основательно интегрируется в эту структуру и встраивается в разные жизненно важные подструктуры, ее уже нельзя не учитывать без фатального разрушения всей структуры».

Не приходится удивляться тому, что из-за подобных идей Вейценбаум считался отщепенцем и еретиком в той самой сфере деятельности, которую он сам же и помог основать своими исследованиями. Однако и сейчас, четыре десятилетия спустя, поставленные Вейценбаумом глубокие вопросы продолжают нас волновать. За последние двадцать лет было накоплено больше наблюдений и экспериментальных данных, подтверждающих идею о том, что наши взаимодействия с цифровыми системами вовсе не безобидны и что они могут влиять на некоторые наши самые базовые ментальные функции. Это означает, что на каждое конкретное преимущество, которое мозговая функция получает в результате взаимодействия с цифровой логикой (о которых некоторые немедленно начинают кричать каждый раз, когда у кого-то возникают какие-либо возражения против натиска цифровой логики на наш несчастный аналоговый мозг), приходятся глубокие и неожиданные изменения в функционировании наших собственных органических компьютеров. Так, Патрисия Гринфилд утверждала, что данные большого числа исследований о влиянии различных средств массовой информации на интеллект и обучение показывают, что взаимодействие человека с любым типом новых коммуникационных сред приводит к когнитивной выгоде в ущерб другим ментальным способностям. В отношении взаимодействия с интернетом и экранными технологиями Гринфилд показывает, что «всеобъемлющее и сложное развитие визуально-пространственных навыков» происходит параллельно с ухудшением способности осуществлять «глубокие [ментальные] процессы», определяющие «вдумчивое приобретение знаний, индуктивный анализ, критическое мышление, воображение и размышления».

В книге «Стеклянная клетка. Автоматизация и мы» Николас Карр обсуждает широкий круг исследований, показывающих, что продолжительное взаимодействие с цифровыми системами может оказывать глубокое влияние на производительность людей – от навыков пилотов по управлению самолетом до способности радиологов распознавать изображения и творческих возможностей архитекторов. Во всех этих очень разных контекстах и состояниях результат всегда один и тот же: как только люди соглашаются на подчиненное положение по отношению к цифровой системе, перестают контролировать основные процессы и начинают лишь ассистировать руководящему компьютеру, который берет на себя основную работу по выполнению конкретной задачи (управление самолетом, интерпретация рентгеновских снимков или конструирование зданий), человеческие навыки начинают деградировать до такой степени, что в них появляются редко встречавшиеся ранее ошибки.

На рисунке 12.3 я графическим образом отразил то, что, как мне кажется, происходит в человеческом мозге в большинстве случаев, когда цифровые системы начинают диктовать людям способ функционирования в рутинных делах. В соответствии с гипотезой цифрового хамелеона продолжительное пассивное погружение в цифровые системы современных самолетов (пилоты), диагностика с помощью цифровой обработки изображений (рентгенологи) и компьютерный дизайн (архитекторы) может постепенно снижать диапазон когнитивных функций человеческого мозга путем предпочтения или даже приоритета в отношении обработки шенноновской, а не гёделевской информации. Дело в том, что если людей вознаграждать за то, что они на работе, в школе, дома или в любых других социальных отношениях ведут себя как цифровые машины, их мозг быстро адаптируется к «новым правилам игры» и радикальным образом меняет собственный способ функционирования. Эта пластичная перестройка и вызванное ею изменение человеческого поведения объясняются попытками мозга максимизировать гедонические ощущения, возникающие в результате высвобождения нейронными цепями дофамина и других химических соединений, опосредующих удовольствие. Таким образом, если внешний мир устанавливает ощутимую материальную или социальную награду за поведение, аналогичное поведению цифровых машин, человеческое творчество и интуиция могут уступать место фиксированному протоколу. Находчивость сократится до жестких алгоритмических процедур, критическое мышление будет полностью сковано слепым подчинением установленным правилам, а новое артистическое или научное мышление окажется подавлено догмой. Чем дольше подкрепляется эта обратная связь, тем в большей степени функции и поведение мозга начинают походить на функции и поведение цифровых машин. В конечном итоге эта тенденция может привести к нарушению или сокращению самых разнообразных человеческих качеств, которые зависят от выражения гёделевской информации.