Чтение онлайн

— Это модель машинного обучения, созданная для генерации естественного языка. Она обучается на огромных объёмах текстов, а потом, когда её просят, что-то сказать или ответить, анализирует и фильтрует эти данные, выискивает закономерности и связи. Со временем модель приобретает предсказательную силу в отношении человеческой речи. Но её постоянная проблема в том, что она впитывает и любые предубеждения и ошибки, содержащиеся в обучающих данных.

— То есть по-простому: «мусор на входе — мусор на выходе»?

— Именно. И вот тут и нужен специалист по этике. Чтобы обеспечить барьеры, не позволяющие мусору попасть внутрь.

Я на мгновение замолчал, собираясь вернуться к своей теме.

— Раньше вы говорили, что присоединились к «Клэр» примерно через три года после начала проекта, верно?

— Примерно через тридцать месяцев, — уточнила она.

— Хорошо. Вы заменили предыдущего специалиста по этике?

— Нет. До меня в проекте никого на этой позиции не было. Обычно специалиста по этике привлекают, когда проект достигает определённого уровня инвестиций и жизнеспособности.

— Вас привлекли спустя три года. Вы анализировали, что происходило с проектом в первые три года?

— Да. Анализировала.

— И что-нибудь вас встревожило?

— Да. Несколько моментов.

— Вы составили список этих моментов?

— Да, составила.

— Что было первым?

— В исходном документе по миссии проекта я увидела, что создаваемое приложение изначально было рассчитано на тринадцатилетних. То есть предназначалось для подростков.

— Почему это вас насторожило?

— Само по себе это не выглядело тревожным. И формально не противоречило заявленной цели проекта. Но когда я углубилась в анализ, у меня возникло ощущение, что создаётся нечто, не подходящее для подростков. «Клэр» с самого начала обучали на данных, ориентированных на более старшую аудиторию. На взрослых.

— Поясните присяжным, что вы имеете в виду под «обучением» в отношении проекта «Клэр».

Этот вопрос мы с ней отрабатывали многократно. Если её ответ пройдёт без возражений, он станет фундаментом для аргумента о безрассудном пренебрежении «Тайдалвейв».

— Создание ИИ-компаньона во многом похоже на воспитание ребёнка, — сказала Китченс. — Только процесс сжат во времени. Мы отправляем детей в школу на двенадцать–шестнадцать лет и дольше, наполняем их голову знаниями, социальными навыками, опытом. ИИ работает похоже, но гораздо быстрее, потому что он полностью цифровой. Данные загружаются. Обучение не основано на реальном опыте или человеческом понимании воспитания. Поэтому это и называется искусственным интеллектом. Это не настоящий интеллект.

— Понимаю, — сказал я. — И что в этом процессе насторожило вас применительно к «Клэр»?

— Проблема была в том, что создавалось приложение, которое собирались продавать подросткам, но обучали его не как подростка. Входящие данные не приводились в соответствие с целевой аудиторией. С человеческой точки зрения это выглядело так, словно у тринадцати-четырнадцатилетнего ребёнка появился двадцатипятилетний друг. Этот «друг» — приложение — обладал бы объёмом знаний и жизненных данных, которые сильно опережали бы возраст тех, для кого оно предназначено. В документах по миссии «Клэр» были обозначены ограничения, но в самом процессе обучения их просто не существовало. На бумаге — да. В реальности — нет.

— То есть это были бумажные ограничения?

— Именно.

— Можете привести конкретные примеры того, что вы наблюдали как специалист по этике?

— У меня были постоянные стычки с одним из программистов проекта. Он загружал в систему свои личные данные — например, свои списки «Спотифай», свои десятки лучших фильмов, сериалов, мест для путешествий. Ему было чуть за тридцать, и это меня тревожило. «Клэр» должна была стать подходящим компаньоном для тринадцатилетнего ребёнка. Я считала, что она не должна знать о кварталах красных фонарей в Таиланде.

Маркус Мейсон сразу же возразил, сославшись на неподтверждённые факты. Рулин, не комментируя, отклонила возражение и велела мне продолжать.

— Наоми, вы выражали свою обеспокоенность тем, кто курировал проект? — спросил я.

— «Обеспокоенность» — слишком мягкое слово, — сказала она. — Я была встревожена. Я писала служебные записки и электронные письма всем руководителям проекта. Проводила совещания. Я считала, что для этого меня и наняли. Я чувствовала себя последним барьером.

Я обернулся к залу, посмотрел на Лорну в первом ряду и кивнул. Она прошла через качающиеся створки, села за мой стол и открыла ноутбук, чтобы запустить презентацию в «Пауэр Пойнт».

— Ваша честь, — сказал я, — у меня есть ряд служебных записок и электронных писем, которые свидетель направляла разным руководителям и заинтересованным лицам проекта «Клэр». Прошу приобщить их к делу в качестве вещественных доказательств и разрешить демонстрацию на экране.

— Хорошо, — сказал Рулин. — Давайте предоставим присяжным перерыв на обед, пока я изучу ваши документы.

Я ожидал, что кто-то из братьев Мейсонов возразит против такого общего запроса. Но за столом защиты стояла тишина.

Китченс вывели, и пока присяжные выходили в зал ожидания, я отнёс один комплект документов клерку для судьи, а второй — на стол защиты.

— Уверен, у вас они уже есть, ребята, — сказал я. — Но на всякий случай.

Я положил бумаги перед Маркусом. Он поднял руку, словно отталкивая их.

— Не утруждайся, — сказал он. — Можешь включать «Пауэр Пойнт», Холлер. Присяжные ничего не вспомнят, когда я разберусь с твоим так называемым «последним барьером».

Я сделал вид, будто это обычная словесная перепалка. Но что-то в его сарказме задело меня. Убедившись, что презентация настроена, я вышел через створки в коридор — найти Наоми Китченс.

Я обнаружил её на скамейке у входа, рядом с ней сидела дочь.

— Лили, не возражаешь, если я поговорю с твоей мамой наедине пару минут? — спросил я.

Лили посмотрела на мать, та кивнула. Девочка встала и ушла обратно в зал суда. Я сел на её место.

— Похоже, братья Мейсон не слишком переживают из-за твоих записок и писем, — сказал я.