Чтение онлайн

— Если вы в этом уверены, — сказала она.

— В том и дело, что в процессе никогда ни в чём нельзя быть уверен до конца.

Это было правдой. Чем ближе было завершение нашей части дела, тем сильнее во мне жило чувство, что я что-то упускаю. Что я не готов. С каждым свидетелем в суде напряжение растёт. Каждый — как костяшка домино. И падать они должны в определённом порядке, чтобы замысел сработал.

Моё беспокойство теперь было связано с тем, что я решил изменить план на полпути. Изначально Спиндлер должен был стать моим последним свидетелем, моим дознавателем. Теперь я поставил всё на другого свидетеля — программиста — и на те секреты о нём, которые Джек Макэвой успеет выкопать до завтрашнего утра.

Это был риск. Я фактически ставил все фишки на свидетеля, которого не встречал и которому ни разу не задал вопрос. Всё, что я о нём знал, — это то, что мне придётся уничтожить его, чтобы выиграть дело.

Вскоре после возобновления заседания я вызвал Майкла Спиндлера. После того как он принёс присягу, я уделил больше времени его образованию и профессиональному опыту. Мне было важно чётко обозначить для присяжных его статус как эксперта в области генеративного искусственного интеллекта. Это имело значение, так как вскоре они поймут, что Спиндлер не является скептиком. Он был убеждён, что искусственный интеллект способен улучшить мир, но также твёрдо придерживался мнения о необходимости строгих ограничений в этой новой реальности.

— Профессор, как долго вы преподаёте в Калифорнийском технологическом институте? — спросил я.

— Девять лет, — ответил Спиндлер.

— До института у вас были академические должности?

— Нет. Я работал в «реальном мире». В нескольких технологических компаниях. Последняя — «Гугл».

— Чем вы там занимались?

— Руководил лабораторией, где мы изначально разрабатывали платформу искусственного интеллекта.

— Можно ли сказать, что вы сторонник ИИ?

— Можно, — ответил он. — Я участвовал в его создании, преподаю его и верю, что он сделает мир лучше.

— Можно ли сказать, что вы в ИИ с самого его зарождения?

— Боже мой, я не настолько стар.

Я дождался вежливого смешка в зале.

— Тогда скажите, как давно существует искусственный интеллект? — спросил я.

— В тех или иных формах — по крайней мере с шестидесятых годов, — сказал Спиндлер.

— Вы говорите о чём-то под названием «Элайза»?

— Да. «Элайза» появилась задолго до того, как мы услышали о «Сири», «Алексе» или «Уотсоне».

— Расскажите присяжным об «Элайзе», профессор.

Митчелл Мейсон возразил, заявив о нерелевантности, но судья отклонила возражение, даже не попросив у меня пояснений.

— Можете ответить, профессор, — сказал я.

— «Элайза» — одна из первых форм искусственного интеллекта, — сказал Спиндлер. — Её считают чуть ли не самым первым чат-ботом.

— Кем, или чем, была «Элайза»?

— Это компьютерная программа, созданная в Массачусетском технологическом институте в середине шестидесятых, — сказал он. — Довольно простая. Изначально задумана как компьютерный психотерапевт. Названа в честь Элизы Дулиттл из пьесы Шоу «Пигмалион» и, конечно, мюзикла «Моя прекрасная леди», фильм по которому вышел в тот же год, когда начали работу над «Элайзой».

— Насколько я помню, фильм был о профессоре фонетики, который решил научить необразованную цветочницу-кокни говорить правильно? — спросил я.

— Да. С Одри Хепбёрн в роли Элизы.

Он произнёс её имя с заметным уважением. Это подтолкнуло судью Рулин пресечь попытку Митчелла возразить заранее.

— Мистер Холлер, не могли бы мы перейти к показаниям, имеющим отношение к делу? — спросила она.

— Прошу прощения, ваша честь, — сказал я. — Продолжим. Профессор Спиндлер, имеет ли эта ранняя форма ИИ значение сегодня и в контексте нашего дела?

— Да, имеет, — сказал Спиндлер. — Существует явление, называемое эффектом «Элайзы». И оно крайне актуально — и сегодня, и для этого процесса.

— Объясните, пожалуйста. Что такое эффект «Элайзы»?

— Коротко — это склонность людей приписывать машине человеческие мысли и эмоции, — сказал он. — Джозеф Вайценбаум, создатель «Элайзы», называл это «чудесной иллюзией интеллекта и спонтанности». Но, конечно, всё это было не по-настоящему. Всё было искусственно. «Элайза» буквально следовала сценарию и реагировала, сопоставляя введённые пользователем слова или запросы с возможными ответами, заложенными в сценарий.

— Сильно ли изменилась эта «чудесная иллюзия» за шестьдесят лет? — спросил я.

— Да, — ответил Спиндлер. — «Элайза» была простым текстовым окном: вы вводили фразу, а программа отвечала. Или чаще — отвечала вопросом. Она имитировала роджерианскую психотерапию — гуманистический подход с поддерживающими, неосуждающими ответами терапевта. Теперь у нас есть куда более продвинутые чат-боты и приложения для общения, которые используют звук и видео, выглядят и звучат почти как настоящие.

— Вы изучали «Рен», ИИ-ассистента, фигурирующую в этом деле? — спросил я.

— Я просмотрел логи чата, оценил базовую структуру и графику приложения и проанализировал код, — сказал он. — «Рен» прошла долгий путь от своей прародительницы «Элайзы». Но основа разговорного чат-бота почти не изменилась.

— Что вы имеете в виду?

— Я имею в виду, что мусор на входе — мусор на выходе, — сказал он. — Всё держится на качестве программирования. Кодирования, обучения и постоянной «донастройки». Какие данные вы подаёте в большую языковую модель при обучении, те отражаются и в её ответах после запуска.

— То есть программа ИИ наподобие «Рен» несёт в себе предубеждения тех, кто её обучает? — уточнил я.

— Именно, — сказал Спиндлер. — Это справедливо для любой технологии.

— Не могли бы вы простым языком объяснить присяжным, как обучается система генеративного ИИ?

— В случае приложения «Клэр» речь идёт о контролируемом обучении, — сказал он. — В систему загружают огромные массивы данных, чтобы она могла эффективно реагировать на подсказки и вопросы пользователя. Эти массивы называют релевантными данными разговора. Программисты создают шаблоны ответов с учётом целевого назначения платформы — здесь это чат-бот для подростков. В идеале данные постоянно обновляются, а программисты непрерывно взаимодействуют с программой — иногда годами — до запуска для пользователей.

— Когда вы говорите, что программисты «взаимодействуют», что вы имеете в виду?

— В лаборатории они всё время разговаривают с программой, — сказал он. — Вводят данные. Задают вопросы. Дают подсказки. Изучают ответы. Проверяют, насколько ответы соответствуют целям.

Я посмотрел на присяжных. Мне нужно было убедиться, что они ещё со мной. Мы зашли в техническую зону. Я должен был сделать науку понятной. Среди присяжных был почтальон Почтовой службы США. С первого дня он был моей «мишенью». Если он поймёт, поймут все. Это не было сомнением в его уме. Напротив — я хотел, чтобы в составе жюри был человек, привыкший к реальному миру: к улицам, к ящикам с почтой, к простым правилам. Если он поймёт технологию, значит, я объяснил её правильно.