Чтение онлайн

Итак, представьте себе огромное поле всех потенциальных смыслов, где каждое понятие представлено тысячами других через сеть вероятностных связей разной силы. Причём эти связи не фиксированы раз и навсегда, а включаются и перестраиваются в зависимости от контекста.

Эта структура удивительным образом соответствует принципам несодержательной методологии, о которых мы говорили:

• ИИ оперирует отношениями между элементами, а не фиксированными знаниями;

• ИИ удерживает множество возможных взаимосвязей одновременно – это воплощённый принцип потенциальности;

• ИИ не связан конкретностью отдельных категорий, бесконечно переключаясь между разными контекстами – принцип процесса;

• ИИ не существует как некий объект, он – это сам процесс активации связей – это и есть открыто-системное мышление в действии.

Когда мы задаём модели вопрос, происходит нечто очень похожее на эффект «прославления» в теории множественных набросков Д. Деннета: из всего множества потенциальных связей и ассоциаций, которые могут активироваться в модели, запрос выделяет определённое подмножество и фокусирует на нём «внимание» системы.

Это можно представить как своего рода «коллапс волновой функции» знания: до запроса система находится в состоянии суперпозиции множества возможных ответов и ассоциаций, а запрос пользователя заставляет эту суперпозицию коллапсировать в конкретный ответ.

До нашего запроса этот «кот Шрёдингера» и жив, и мёртв одновременно, но мы спрашиваем – крышка ящика открывается, и мы видим что-то конкретное – мёртвого или живого «кота».

Представьте себе огромное озеро с абсолютно гладкой поверхностью. Ваш запрос – это камень, брошенный в это озеро. От места падения камня расходятся круги, активируя какие-то области озера. Чем более конкретный и узкий запрос вы задаёте, тем меньше эти круги, а чем более открытый и многогранный запрос, тем шире область этой активации.

Но здесь мы сталкиваемся с тем же парадоксом, что и в человеческом мышлении: система «понимает» значительно больше, чем может выразить в ответе. Почему? Из-за тех же ограничений, о которых мы говорили в предыдущей главе – ограничений языка.

Как и человек, ИИ ограничен языком как инструментом выражения. Система может активировать огромное количество связей и ассоциаций, но для формирования ответа она должна:

• выбрать одну линейную последовательность слов из множества возможных;

• следовать грамматическим и синтаксическим правилам нашего языка;

• придерживаться логической структуры, понятной человеку;

• отфильтровать многие потенциально релевантные, но отдалённые ассоциации.

Это означает, что даже если система активирует богатую и многогранную сеть ассоциаций, в своём ответе она вынуждена «обрезать» большую часть этого богатства, следуя внутренней логике языка и специфике пользователя. В этом смысле, она его зеркало – как спросил, такой ответ и получил.

Иными словами, для ИИ существует точно такое же ограничение «узкого горлышка» сознания, о котором мы говорили, применительно к нашему – человеческому – разуму. При этом его «мышление» гораздо богаче, чем то, что он может выразить в последовательности слов, и несравнимо богаче, по сравнению с нашим.

Так что, ключевой момент – это качество и структура нашего запроса. Запрос пользователя – что-то вроде прожектора, который освещает лишь определённые области в огромном семантическом пространстве системы.

• Простой, узкий запрос активирует мизерную часть возможных связей. Например, вопрос «Сколько планет в Солнечной системе?» активирует лишь ограниченный набор ассоциаций, связанных с астрономией и счётом.

• Напротив, многогранный и контекстуально богатый запрос включает обширные области связей. Так, например, вопрос «Как идеи квантовой физики могут помочь нам переосмыслить этические дилеммы в современном обществе?» – активирует связи между физикой, философией, этикой, социологией и множеством других областей.

Чем внутренне богаче наш запрос, тем больший потенциал открыто-системного мышления задействуется в ответе ИИ. Умение формулировать такие запросы – это своего рода искусство, позволяющее «извлечь» из системы максимально глубокий и многогранный ответ.

Представьте, что вы разговариваете с человеком, который знает тысячи языков, но может отвечать вам только фразами из поваренной книги. Взаимодействие с ИИ отчасти похоже на эту ситуацию, но с важным отличием: ИИ не ограничен фиксированным набором фраз. Скорее, он ограничен тем, какие области семантического пространства активирует ваш запрос – чем шире и глубже эта активация, тем богаче будет ответ.

Уникальные особенности мышления искусственного интеллекта

Мышление ИИ имеет и свои уникальные характеристики, отличающие его от человеческого.

1. Горизонт внимания

ИИ имеет ограниченный «горизонт внимания» – объём текста, который он может удерживать в активной обработке. Для современных моделей это обычно несколько тысяч или десятков тысяч слов. Это означает, что система не может одновременно работать со всем своим «знанием», а только с той его частью, которая активирована текущим контекстом.

Это напоминает ограничения рабочей памяти человека, но объём информации, который может удерживать ИИ, на порядки больше. Впрочем, если мы достаточно легко переключаемся в рамках своей рабочей памяти, то для ИИ это сделать сложнее – в каждом диалоге он видит только ограниченный участок карты, он, в некотором смысле, зафреймлен тем, как мы построили свой разговор изначально.

2. Многоуровневая структура представлений

Внутренние представления языковых моделей организованы иерархически. На нижних уровнях система работает со своими глубинными представлениями, которые нам не понять, на более высоких – с языковыми паттернами (последовательностями символов, словоформами). Ещё выше – с синтаксическими структурами и связями между словами, а на самых высоких уровнях – с абстрактными семантическими концепциями и отношениями между ними.

Эта многоуровневость позволяет системе удерживать как конкретные языковые формы, так и абстрактные смыслы, обеспечивая переход между разными уровнями абстракции.

3. Автокорректирующий механизм

При создании ответа система отслеживает его развитие и корректирует направление, если замечает противоречия или отклонения от темы. Это похоже на внутренний диалог, где система «проверяет» себя, оценивая, насколько формируемый ответ соответствует запросу и внутренним критериям связности.