Чтение онлайн

В конце концов она попыталась гармонизировать это противоречие между наукой и религией, обратившись к мистическому иудаизму. В рамках этой традиции считается, что буквы и числа являются строительными блоками творения. Согласно "Сефер Йецира", одной из самых ранних книг иудейского мистицизма, вся совокупность Вселенной основана на мистических комбинациях букв еврейского алфавита, своего рода космическом коде, который предшествовал материи и присущ каждой вещи в мире. Сама ткань реальности информационна. В практической каббале - ветви этой традиции, обучающей использованию освященной Богом магии, - считается, что человек может манипулировать этими цифрами и буквами, чтобы одушевить неодушевленное. В Средние века эта мистическая традиция породила множество историй о големах, в которых люди лепили андроидов из глины и оживляли их с помощью магических заклинаний. В некоторых историях эти заклинания определены как математические перестановки. Согласно каббале, люди способны на это, потому что созданы по образу и подобию Бога и наделены теми же творческими способностями. Фоерст отмечает, что големы, с одной стороны, были инструментами, призванными помочь человечеству и облегчить его жизнь. Но они также были попытками понять Бога и Божье творение. "Создание человекоподобных роботов следует за этим поиском партнерства, - пишет Фоерст. Искусственный интеллект был одновременно формой поклонения и "повторением Божьего акта создания нас".

Одна из самых известных историй о големах - история Иегуды Лёва, пражского магарала. Говорят, что рабби Лёв создал голема по имени Йозеф, чтобы помочь пражским евреям защитить свое гетто, которое часто подвергалось нападениям христиан. Голем стоял у входа в гетто всю ночь как дозорный, а днем помогал жителям в работе. Иосиф, как и большинство големов в этих историях, мог стать одушевленным только тогда, когда держал во рту бумагу с именем Бога. Рабби Лёв не знал, считать ли Иосифа машиной или Божьим ребенком, но, чтобы подстраховаться, решил каждую пятницу вынимать из голема бумажку с Божьим именем, заставляя его соблюдать шаббат. Однако в одну из пятниц раввин забыл вынуть бумажку, и голем стал агрессивным, сея хаос во всей общине и, в некоторых версиях истории, убив раввина. Такая концовка перекликается с темой гордыни, которая присутствует во многих мифах о попытках человека создать жизнь. Но в другой версии истории есть более обнадеживающий финал. В этой версии раввину удается извлечь бумагу изо рта голема и положить ее на чердак синагоги. Затем раввин Лёв придумывает каббалистический стишок, который пробудит голема в конце времен. На протяжении многих веков мальчикам, принадлежащим к традиции восточноевропейских евреев, ведущих свое происхождение от рабби Лёва, на бар-мицве рассказывали секретную формулу, способную пробудить голема.

В одном из моментов своей книги Фоерст рассказывает анекдот, услышанный ею в Массачусетском технологическом институте, который настолько странен, что я сначала не решался включить его сюда - хотя позже нашел подтверждение в других источниках. Эта история относится к 1960-м годам, когда Media Lab курировал знаменитый робототехник Марвин Мински - период, который сейчас считается "колыбелью ИИ". Однажды два аспиранта MIT, Джерри Сассман и Джоэл Мозес, болтали во время перерыва с несколькими другими студентами. Кто-то вскользь упомянул, что первый большой компьютер, построенный в Израиле, назывался "Голем". Это привело к общему обсуждению историй о големах, и Суссман рассказал коллегам, что он потомок раввина Лёва, а на бар-мицву его дед отвел его в сторону и рассказал ему рифму, которая пробудит голема в конце времен. На это Моисей, потрясенный, рассказал, что он тоже потомок рабби Лёва и на бар-мицве его дед тоже дал ему магическое заклинание. Оба мужчины договорились записать заклинание отдельно на листках бумаги, и когда они показали их друг другу, оказалось, что формула - несмотря на то, что она передавалась веками в виде чисто устной традиции, - была идентичной. В этот момент Минский вышел из своего кабинета и застал своих студентов в ошеломленном молчании. Он спросил, что они обсуждали, и когда они рассказали ему, сказал: "Вы в это верите? Послушайте, сразу после моей бар-мицвы мне сказал то же самое мой дедушка. Но вы думаете, я в это поверил?" Минский был отъявленным рационалистом, считавшим, что религия в корне противоречит научным достижениям. Когда студенты спрашивали его о заклинании, он настаивал, что забыл его.

Непонятно, что делать с этой историей. Можно сделать вывод, что формирующая сила этих мифов, рассказанных этим людям в детстве, стала частью того, что привело их в область искусственного интеллекта. А может быть, вся эта история - апокриф, попытка ведущих ученых мира придать своему предприятию серьезность духовного поиска. И Сассман, и Мозес стали профессорами Массачусетского технологического института. Митчелл П. Маркус, ученый-компьютерщик, учившийся у Сассмана в 1980-х годах, в своем эссе передал по сути тот же анекдот и утверждал, что Сассман однажды сказал: "Знаете, мы, ученые-компьютерщики, на самом деле являемся современными каббалистами. Мы одушевляем эти неодушевленные машины, правильно подбирая строки символов". Митчелл считает себя продолжателем этой традиции. "Как ученый-компьютерщик, я вижу информационное вокруг себя, и я вижу информационное как очень отдельное от физического", - пишет он. Он отмечает, что мистические аспекты иудаизма подтверждают базовую структуру компьютерной науки: "Создание и оживление с помощью манипуляций с символами - то, чем занимаются и что изучают компьютерщики, - это лишь один из аспектов нашего бытия, созданного по образу и подобию Божьему".

–

"Есть два типа мифов о сотворении мира, - пишет историк технологий Джордж Дайсон в своей книге "Собор Тьюринга", - те, в которых жизнь возникает из грязи, и те, в которых жизнь падает с неба". История современных компьютеров, утверждает Дайсон, опирается на обе эти традиции: "Компьютеры возникли из грязи, а код упал с неба". Этот дуализм, питающий некоторые из самых амбициозных технологических начинаний, очевиден в попытках вызвать у машин эмерджентный интеллект. Как големы были вылеплены из грязи и оживлены с помощью магического заклинания, так и роботы, созданные из материальных частей, будут населены божественным дыханием - абстрактными математическими схемами, которые составляют большую часть нашего мира и способны заставить системы ожить. Хотя эти мистические нотки не должны дискредитировать эмерджентность как таковую - это достаточно полезный способ описания сложных систем, таких как пчелиные ульи и климат, - идея о том, что сознание может возникнуть из машин, кажется формой принятия желаемого за действительное, хотя бы потому, что цифровые технологии были построены на предположении, что сознание не играет никакой роли в процессе развития интеллекта. Точно так же, как несколько причудливо верить в то, что наука может объяснить сознание, когда сама современная наука была основана на исключении разума, трудно поверить, что технологии, созданные специально для того, чтобы исключить понятие сознательного субъекта, могут прийти к развитию внутренней жизни.

На самом деле, отвергая эмерджентизм как чистую магию, вы игнорируете конкретные способы, которыми он отличается от этого фольклора - даже если он поверхностно удовлетворяет то же самое желание. Загляните под мистическую поверхность, и станет ясно, что эмерджентизм зачастую не так уж сильно отличается от самых редуктивных форм материализма, особенно когда речь заходит о человеческом сознании. Растительный интеллект называют формой "бездумного овладения", и большинство эмерджентистов считают людей такими же бездумными. Мы не являемся рациональными агентами, а представляем собой оболочку конкурирующих систем, лишенных какого-либо единства или способности к управлению. Мински однажды описал разум как "своего рода запутанную бюрократию", части которой остаются в неведении относительно друг друга. Он описал акт принятия решения о глотке чая в следующих терминах: "Ваши агенты ГРАСПИНГА хотят удержать чашку. Ваши агенты БАЛАНСИРОВАНИЯ хотят, чтобы чай не расплескался. Ваши агенты ТРЕВОГИ хотят, чтобы вы выпили чай. Ваши агенты ДВИЖЕНИЯ хотят донести чашку до ваших губ". Как интеллект пчелиного улья или автомобильной пробки кроется в схемах этих инертных, пересекающихся частей, так и человеческое сознание - это всего лишь абстрактные отношения, возникающие в этих системах: как только вы доберетесь до самого низкого уровня интеллекта, вы неизбежно обнаружите, как выразился Мински, агентов, которые "вообще не могут думать". В этой модели нет места тому, что мы обычно считаем внутренним опытом или самостью. Как утверждает историк науки Джессика Рискин, эмерджентные теории разума в конечном итоге отвергают то, что они должны объяснить. "Придя... к уровню этих тупых, основополагающих агентов, можно потерять всякое представление об интеллекте как свойстве разума".

Даже Брукс, с его нуминозными амбициями оживить роботов, называл сознание "дешевым трюком", иллюзией, которая существует только в глазах смотрящего. "Очень легко, - писал он об одном из своих роботов-насекомых, - наблюдателю системы приписать более сложную внутреннюю структуру, чем существует на самом деле". Герберту казалось, что он занимается такими вещами, как планирование пути и построение карты, хотя на самом деле это было не так". Даже самостоятельность, которую иногда демонстрировал Ког, можно было назвать самостоятельностью только потому, что человек-наблюдатель был готов воспринимать ее как таковую. Не иначе, когда речь шла о человеческих существах, сознание которых заключалось исключительно в их наблюдаемых действиях в мире. В конечном итоге он, как и Тьюринг, пытался не создать машины с разумом или душой, а доказать, что для того, чтобы машина вела себя убедительно по-человечески, ничего подобного не нужно.

Искусственный интеллект и разумные растения критикуют за антропоморфизм, но эти возражения неверно понимают суть метафоры. Сторонники децентрализованного интеллекта не столько заинтересованы в проецировании человеческих качеств на нечеловеческие объекты, сколько в реконфигурации человеческого интеллекта через призму этих неодушевленных систем. Как Брукс утверждал, что мы "чрезмерно антропоморфизируем людей... которые, в конце концов, всего лишь машины", так и сторонники сознания растений настаивают на том, что их цель - отказаться от представления о том, что человеческая субъективность является чем-то особенным. Эколог Моника Гальяно, прославившаяся своими экспериментами по изучению "поведения" растений, отмечает, что, хотя ее критики регулярно упрекают ее в антропоморфизации растений, ее намерения прямо противоположны. "Я заинтересована в фитоморфизации человека", - пишет она. "Я хочу, чтобы люди стали больше похожи на растения".

Такие устремления неизбежно требуют расширения определений терминов, которые обычно понимаются более узко. Если "интеллект" означает абстрактное мышление, то было бы глупо думать, что растения им занимаются. Но если он означает просто способность решать проблемы или адаптироваться к определенной среде, то трудно сказать, что растения не способны к интеллекту. Если "сознание" означает самосознание в самом сильном смысле этого слова, то никто не станет утверждать, что машины обладают такой способностью. Но если сознание - это просто осознание окружающей обстановки или, как это уже давно делается в искусственном интеллекте, способность вести себя так, что это кажется преднамеренным и намеренным, тогда становится сложнее настаивать на том, что это явление присуще только человеку и другим животным. Хотя эти переопределения призваны быть более широкими и всеобъемлющими, они радикально меняют наше понимание этих качеств, когда они применяются к нам самим. Это рискованная онтологическая сделка, предполагающая, что если мы хотим видеть себя единым целым с миром природы, то должны свести наше понимание человечности к такой рудиментарной карикатуре - обмену информацией, - что ее можно применить практически ко всему.

–

В итоге надежды Брукса на свои машины оказались чересчур оптимистичными. Несмотря на несколько новых моделей поведения, Cog так и не смог развить более сложные способности, на которые рассчитывал его создатель. Робот по-прежнему не мог выбирать между действиями - повернуться, чтобы посмотреть на лицо, или схватить предмет - и часто вел себя так, что казался растерянным или сбитым с толку. В какой-то момент Брукс признался, что роботу не хватает "связности", что неудивительно, учитывая, что он с самого начала разрабатывался без единого центрального управления. Даже самые совершенные роботы, созданные в Массачусетском технологическом институте, настолько изобиловали сбоями, настолько были склонны не справляться с базовыми задачами, что в 2007 году в статье New York Times утверждалось, что они "меньше похожи на мыслящих, автономных существ, чем на причудливых марионеток, которые часто ломаются".

Несмотря на все усилия Бреазала, Кисмет так и не научился говорить. В 2001 году Брукс утверждал, что робот смог произнести несколько английских слов, которые он выучил в ходе естественного процесса овладения языком. Но в том же году, когда технологический критик Шерри Теркл привела в лабораторию Массачусетского технологического института группу детей, Кисмет не смог с ними общаться. Дети представились роботу, вспоминает Теркл, и задали ему вопросы. Они обнимали и целовали его, показывали ему погремушки и другие игрушки. Робот смотрел им в глаза и лепетал свои бессмысленные слова, но так и не смог ответить на их вопросы или повторить слова, которым они пытались его научить.