Чтение онлайн

Символический ИИ – это родословная, связанная с Дартмутским семинаром 1956 года, на котором Джон Маккарти предложил небесспорный термин «искусственный интеллект» [58] . На основе символического ИИ были разработаны программы Logic Theorist и General Problem Solver, а также множество экспертных систем и машин логического вывода, оказавшихся тривиальными и склонными к комбинаторному взрыву. Коннекционизм в свою очередь представляет родословную искусственных нейронных сетей, созданных Фрэнком Розенблаттом в 1957 году. Изобретенный им «перцептрон» в 1980-х годах развился в сверточные нейронные сети и в конечном итоге породил архитектуру глубокого обучения, которая доминирует в этой области с 2010-х.

Обе родословные развивают разные виды логики и эпистемологии. Символический подход утверждает, что разумность – это представление мира (знание-что), которое можно формализовать в виде суждений и, следовательно, механизировать согласно дедуктивной логике. Согласно коннекционистскому подходу, разумность представляет собой опыт мира (знание-как), и этот опыт можно реализовать в приближенных моделях, построенных по индуктивной логике. Что бы ни утверждали корпоративная пропаганда и вычислительные философии разума, ни одна из двух парадигм не смогла полностью имитировать человеческий интеллект. Однако нельзя отрицать, что машинное обучение и глубокие искусственные нейронные сети оказались очень успешными в распознавании паттернов и, как следствие, автоматизации многочисленных задач, благодаря высокой разрешающей способности при обсчете многомерных данных. Двигаясь против традиции, которая воспроизводит чрезмерно знаменитую сагу о Дартмутском семинаре, в книге я концентрируюсь на более убедительной истории ИИ, связанной с происхождением искусственных нейронных сетей, коннекционизмом и машинным обучением. По этому направлению, особенно в том, что касается работы Розенблатта, критической и обстоятельной литературы все еще не хватает.

Книга состоит из трех частей. В вводной части речь идет о вопросах методологии, а две основных посвящены истории – индустриальной и информационной эпохам соответственно. При этом в книге нет линейной истории технологии и автоматизации. Скорее, каждую главу можно читать как независимый «семинар» по изучению алгоритмических практик и машинного разума.

В первой главе я исхожу из необходимости прежде всего прояснить центральное вычислительное понятие: алгоритм. Что такое алгоритм? В компьютерной науке алгоритм определяют как конечную процедуру пошаговых инструкций по преобразованию ввода в вывод, которая оптимально использует имеющиеся ресурсы. В главе ставится под сомнение приведенное чисто техническое определение алгоритма и обосновывается его материалистическая критика, указывающая на экономические и социальные корни явления. Как и у других абстрактных понятий – таких как число или механизм, – у алгоритма долгая история. Как указал математик Жан-Люк Шабер, «алгоритмы существовали с незапамятных времен, задолго до того, как было придумано специальное слово для их обозначения» [59] . Обращаясь к социальной математике древнего индуистского ритуала Агничаяна, я утверждаю, что алгоритмическое мышление и алгоритмическая практика присущи всем цивилизациям, а не только метаязыку западной компьютерной науки. В противовес математическому и философскому интуитивизму, который верит в полную независимость ментальных конструкций, в главе подчеркивается, что алгоритмическое мышление возникло в качестве материальной абстракции из взаимодействия разума и орудий, направленного главным образом на решение экономических и социальных задач. Центральный тезис главы сформулирован намеренно остро: труд представляет собой первый алгоритм.

Основные части книги посвящены изучению машинного разума в две исторические эпохи и выявляют сходную проблематику. В первой части рассматриваются труд как источник знаний и автоматизация умственного труда в индустриальную эпоху в Великобритании. Этот период обычно исследуется с точки зрения ручного труда, накопления капитала и ископаемых источников энергии, а вовсе не в перспективе когнитивных аспектов. Во второй части анализируется распространение коннекционизма (доктрины искусственных нейронных сетей) в кибернетических кругах в США 1940–1960-х годов. Искусственные нейронные сети возникли в результате проекта автоматизации зрительного труда (т. н. распознавания образов), отличного от ручного и умственного. Я утверждаю, что изучение роли знаний, умственного труда и науки в XIX веке необходимо для понимания истории автоматизации, подготовившей восхождение ИИ в XX веке. Обе части книги подходят с разных сторон к одной проблеме: взаимосвязи между формами технологических инноваций и социальной организацией.

Как отмечали историки науки Дастон и Шаффер, движущую силу современных вычислений легче найти в мастерских индустриальной эпохи, чем в томах по математике или натурфилософии того же времени. Поэтому во второй главе в попытке избежать традиционной машинной агиографии новаторские эксперименты Бэббиджа в области автоматизированных вычислений – его Разностная и Аналитическая машины – пересмотрены с экономической точки зрения. Для объяснения устройства этих первых компьютеров (и воплощенного в них варианта «машинного разума») в главе описываются два принципа анализа труда, выработанные Бэббиджем. Согласно первому аналитическому принципу (трудовой теории машин), конструкция машины воспроизводит и заменяет схему разделения труда. Второй принцип (исчисления труда, т. н. принцип Бэббиджа) гласит, что разделение труда на мелкие задачи позволяет измерить и приобрести ровно столько труда, сколько требуется для производства. При совмещении два принципа дают промышленную машину, которая не только делает труд более интенсивным, но и выступает как инструмент (и неявная метрика) его измерения. Бэббидж применил оба принципа к автоматизации ручного счета. Так возникло вычисление – как автоматизация умственного труда и подсчет его стоимости.

Помимо представления обычных «термодинамических» интерпретаций ручного труда, в третьей главе показывается, что сложные понятия умственного труда, коллективного разума и отчуждения знания были разработаны уже в индустриальную эпоху. В этой главе исследуются идеи вокруг становления политической экономии в XIX веке, движения Института механики, общественной кампании «Марш разума» и Вопроса о машинах (дебаты о технологиях и безработице, волновавшие английское общество в те годы). Также освещены противоположные размышления о введенных Бэббиджем принципах анализа труда и изобретательстве. С одной стороны, я показываю, что задолго до появления теоретиков общества знаний в XX веке рикардианские социалисты Уильям Томпсон и Томас Годскин выдвинули познавательную теорию труда. С другой стороны, подчеркиваю необходимость признать влияние промышленных машин и инструментов на развитие знаний о природе, что требует расширить машинную теорию науки. В результате выражение «машинный интеллект» приобретает по меньшей мере четыре значения:

человеческое знание машины;

знание, воплощенное в ее конструкции;

человеческие задания, ею автоматизированные;

новое знание о мире, ставшее возможным благодаря ее применению.

Четвертая глава посвящена тому, как связаны Бэббидж и другой столп политической экономии индустриальной эпохи, Карл Маркс, – эта тема все еще изучена недостаточно [60] . Здесь исследуется вплетение знаний в материальные действия и артефакты и дано соответствующее прочтение теорий Маркса. В известном отрывке из Grundrisse [61] философ предсказывал, что постепенное накопление знаний (то, что он назвал «всеобщим интеллектом») в машинах подорвет законы капиталистического накопления и вызовет его фатальный кризис. Благодаря интерпретации итальянских операистов, данной в 1989 году, этот необычный отрывок, получивший название «Фрагмент о машинах», обрел широкую известность среди исследователей и активистов в качестве пророчества об экономике знаний, пузыре доткомов и восхождении ИИ. После десятилетий всевозможных спекуляций в этой главе впервые раскрывается происхождение идеи всеобщего интеллекта (general intellect), которую Маркс встретил в книге Уильяма Томпсона «Исследование принципов распределения богатства» (An Inquiry into the Principles of the Distribution of Wealth; 1824). Также я объясняю (и это даже важнее), почему это понятие не вошло в «Капитал». У Томпсона Маркс почерпнул идею добродетельного накопления знаний и аргумент, согласно которому знание, отчуждаясь в машинах, становится враждебным по отношению к рабочим. Однако именно у Бэббиджа Маркс нашел альтернативную теорию, позволяющую понять двусмысленную роль знаний и науки в промышленной экономике. В «Капитале» Маркс заменил утопические упования на всеобщий интеллект материальной фигурой «совокупного рабочего» (Gesamtarbeiter) – другое имя расширенной трудовой кооперации. Фигура совокупного рабочего как некоего сверхорганизма, объединяющего людей и машины, знаменует в этой книге переход к эпохе кибернетики и кибернетическим экспериментам по самоорганизации. Переходную роль выполняет пятая глава, где кратко описана трансформация труда индустриальной эпохи в век кибернетики и разъясняется, как труд распался на абстрактную энергию и абстрактную форму (информацию).

Вторая часть посвящена коннекционизму как главной родословной современных систем ИИ (я избегаю повторения известной литературы по кибернетике, теории информации и символическому ИИ). В шестой главе развитие искусственных нейронных сетей рассматривается с точки зрения, которой обычно пренебрегают, а именно в перспективе исследований самоорганизации организмов и машин (их обошла вниманием даже Боден в своей огромной истории ИИ). Теории самоорганизации сегодня востребованы в физике, химии, биологии, неврологии и экологии, но именно в среде кибернетиков, а не представителей естественных наук, в середине XX века вспыхнули дебаты о самоорганизации. В главе рассмотрены парадигмы самоорганизующихся вычислений, которые способствовали, среди прочего, укреплению коннекционизма, – в частности, концепция нейронных сетей Уоррена Мак-Каллока и Уолтера Питтса (1943–1947), клеточные автоматы Джона фон Неймана (1948) и перцептрон Розенблатта (1957). Также в шестой главе исследуется реакция кибернетических теорий самоорганизации на социотехнические изменения. Подобно иным вариантам механистического мышления в другие века, кибернетика проецировала на мозг и природу формы организации, которые были частью технического состава окружающего общества. Ключевым примером здесь выступает телеграфная сеть, которая использовалась в XIX веке в качестве аналогии нервной системы, а в ХХ веке – для формализации нейронных сетей, включая машину Тьюринга.

В седьмой главе прослеживается связь концепций искусственных нейронных сетей Мак-Каллока и Питтса с забытым спором о гештальте: дебаты о человеческом восприятии как о когнитивном акте, который может быть представлен аналитически и, следовательно, механизирован. В учебниках по машинному обучению обычно утверждается, что Мак-Каллок и Питтс вдохновлялись нейрофизиологией мозга, но авторами упускается из виду упомянутый интеллектуальный сор. Между тем, именно после этих дебатов выражение «гештальт-восприятие» из военных и академических публикаций превратилось в широко известное словосочетание «распознавание паттернов». Спор о гештальте – это когнитивная окаменелость нерешенной проблемы, и ее изучение помогает понять форму и ограничения, унаследованные глубоким обучением, в частности, неразрешенное противоречие между восприятием и познанием, образом и логикой, которое преследовало технонауку XX века.

В восьмой главе разъясняется двойственная роль неолиберального экономиста Фридриха фон Хайека в укреплении коннекционизма. В книге 1952 года «Сенсорный порядок» Хайек предложил коннекционистскую теорию разума, куда более продвинутую, чем определения ИИ, выработанные на Дартсмутском семинаре в 1956-м. В этом тексте, как предположили Мак-Каллок и Питтс, Хайек размышлял о создании машины, функционально подобной «нервной системе как инструменту классификации» [62] . Подобно кибернетикам Хайек изучал самоорганизацию разума, но с другой целью: его интересовала не промышленная автоматизация, а автономия рынка.

Девятая глава посвящена одному из наиболее важных и наименее изученных эпизодов в истории ИИ: изобретению Розенблаттом в 1950-х годах искусственной нейронной сети перцептрон. Несмотря на свои ограничения, перцептрон стал прорывом в истории вычислений – в нем впервые была автоматизирована техника статистического анализа; по этой причине его считают первым алгоритмом машинного обучения [63] . В качестве технической формы перцептрон претендовал на имитацию биологических нейронных сетей, но с математической точки зрения осуществлял совсем другой трюк. Чтобы решить задачу распознавания образов, машина представляла пиксели изображения как независимые координаты в многомерном пространстве. Любопытно, что статистический метод многомерной проекции зародился в психометрии и евгенике в конце XIX века и аналогичен тому методу оценки «общего интеллекта» [general intelligence], который Чарльз Спирмен реализовал в спорном тесте на определение коэффициента интеллекта (IQ). Это еще одно доказательство социальной генеалогии ИИ: первая искусственная нейронная сеть – перцептрон – родилась не как автоматизация логического рассуждения, а как статистический метод, который применялся для измерения интеллекта в когнитивных задачах и соответствующей этим измерениям организации социальной иерархии.