Чтение онлайн

Подходы к проблеме самооптимизации ИИ

Основной вопрос ИИ — это даже не формальное возникновение компьютерной программы, способной пройти тест Тьюринга (то есть эффективно притворяться человеком), а скорость процесса самооптимизации уже существующего глобального интеллекта человечества. Под самооптимизацией мы имеем в виду процесс, когда некий интеллект решает задачу о том, как стать еще «умнее».

По этому вопросу существуют две крайние точки зрения.

Возможен быстро самооптимизирующийся ИИ, реализованный целиком на компьютере, возникающий локально как некая точка кристаллизации, за которой следует фазовый переход. Метафорически про такой ИИ говорят: «Компьютер из подвала захватывает мир». Юдковски полагает, что такой быстрый старт возможен и займет период от дней до недель. Очевидной стратегией для такого ИИ будет установка контроля над всей планетой с целью недопущения своего отключения другими ИИ-проектами. Поскольку он будет обладать более высокой степенью оптимизации (а значит, более высокой концентрацией «интеллекта» на объем памяти), то он может захватывать уже существующие вычислительные ресурсы. Проекты вроде AIXI ближе по духу к такой возможности.

Усиление глобального интеллекта человечества будет состоять в плавном росте суммарного интеллекта всех участников, а также в оптимизации за счет обмена результатами в форме науки, рынка, государства и социальных сетей и приведет к плавному и естественному слиянию всех людей в «надчеловечество».

ИИ как личность и как среда

Как среда ИИ будет в чем-то подобен идеальному государству или всемирной операционной системе, проявляющей себя только когда есть запрос или какая-то угроза людям. Мы ждем от государства, что оно будет заботиться о нашей безопасности, воспитывать, лечить, предоставлять нам все необходимое. Идеальный ИИ будет в этом смысле подобен заботливой матери — распределенный повсюду, он будет защищать нас от любых возможных неприятностей. Зачатком такого ИИ являются сети тотального видеонаблюдения. ИИ как среда нелокален, то есть он распределен по сетям, узлам, носителям, подобно тому, что мы видели в фильмах «Матрица» и «Терминатор-2: Судный день» (Skynet).

Более традиционно восприятие ИИ как личности, а именно разумного робота. Чтобы он стал личностью, его, как минимум, надо дополнить рядом «блоков»: памяти, целеполагания и т. д. Мы думаем, что проблема создания искусственной личности (в смысле активно действующего агента с определенной системой целей) будет решена одновременно с созданием ИИ как процесса оптимизации.

Однако это еще не создание «искусственного сознания». Одним из признаков человеческого сознания является способность переживать квалиа — качественный аспект любого субъективного переживания. Наиболее очевидным примером квалиа является боль. Такие философы, как Дэвид Чалмерс считают, что квалиа невозможно передать с помощью информации, невозможно описать как часть физического мира. Вопрос о том, сможет ли ИИ на самом деле переживать сенсорный опыт, является предметом дальнейших исследований в области философии и нейрофизиологии.

Существует очень много разных точек зрения на то, что такое квалиа. После создания ИИ эта проблема приобретет практическую актуальность, поскольку с помощью ИИ станет возможным так или иначе моделировать людей. Но признать их «настоящими людьми» мы сможем, только если они на самом деле что-то переживают, а не являются так называемыми «философскими зомби», которые только говорят, что имеют субъективный опыт. Мы не знаем, как именно будет решена проблема квалиа, но предсказываем, что по мере создания ИИ она будет становиться все более актуальной.

Классификация видов искусственного интеллекта

«Программа с элементами ИИ»

Программа, в некоторых отношениях подобная человеку или даже превосходящая его, но не являющаяся полноценным независимым агентом. Это может быть программа — водитель машины или умный поисковик в Интернете

«Универсальный ИИ»

Программа, способная совершать любые возможные виды интеллектуальной активности, в том числе и все, доступные человеку

«Сильный ИИ» или «сверх ИИ»

Универсальный ИИ, на много порядков превосходящий человека и все современное человечество по интеллектуальной мощи. СверхИИ возникает из универсального ИИ за счет его процесса самооптимизации — эффективного совершенствования своего устройства, разработки новых алгоритмов решения задач и добавления нового оборудования

«Всемирный ИИ»

Сильный ИИ, который контролирует всю планету и представляет собой нечто среднее между Интернетом, государством и системой тотального контроля. Он наделен пониманием происходящих процессов и правилами по урегулированию конфликтных ситуаций. По сути это всемирная операционная система

Обзор современных разработок ИИ

Несколько больших и малых компаний заявляли о том, что разрабатывают ИИ. Крупные конференции по ИИ собирают сотни участников, так что невозможно представить весь список ИИ-проектов в мире. Кроме того, наиболее успешные проекты могут быть засекречены, например, проекты, осуществляемые военными США и других стран мира.

Наиболее известные ИИ-проекты

Проект

Организатор, руководитель

Начало проекта

Цель проекта

Подробности

SyNAPSE

DARPA

(Американское военное агентство перспективных технологий)

2009 год

Построить к 2015 году чип, содержащий 1 млрд искусственных нейронов и 1 трлн синапсов

Участники проекта считают, что для создания интеллектуальных машин достаточно смоделировать только самые полезные особенности биологических нейронных сетей и оставить в стороне «человеческие» части вроде самосознания. В 2009 году было проведено моделирование работы такого чипа на суперкомпьютере, при этом количество нейронов в модели было равно количеству нейронов в коре мозга кошки

HTM (Hierarchical Temporal Memory)

Джефф Хокинс и компания

Numenta

2005 год

На основе собственной теоретической базы создать и продвигать программную платформу, предназначенную для разработки коммерческих приложений на алгоритмах работы коры головного мозга

Первые успехи — программные пакеты распознавания образов на изображениях и видео. Платформа бесплатно доступна для исследовательских целеи

Mind Machine Project

Марвин Минский

Декабрь 2009 года, срок — 5 лет

Создать «мозговой сопроцессор» — имплантант, который позволит людям с нейродегенеративными заболеваниями восстанавливать часть когнитивных функций. Возможно, устройство также можно будет использовать для усиления интеллекта здоровых людеи

Минский продолжает линию «классического ИИ». Он опирается не на моделирование нейронной сети мозга, а на воспроизведение в компьютере современных представлений о том, какие процессы человек использует при мышлении. Минский и его команда пытаются выделить алгоритмы, с помощью которых человеческий мозг решает разные типы проблем, а затем интегрировать их в единый интеллект