Чтение онлайн

В 1954 году блистательный психолог Пол Мил написал небольшую книгу, вызвавшую значительный резонанс [13] . В ней анализировались двенадцать исследований, согласно которым хорошо информированные эксперты, предсказывавшие, добьется ли студент учебных успехов или вернется ли заключенный, условно отпущенный на свободу, обратно в тюрьму, в своих прогнозах оказывались не так точны, как простые автоматизированные алгоритмы, подытоживавшие объективные данные (итоги теста на способности или записи о поведении в тюрьме). Заявление Мила расстроило многих экспертов, но и последующие исследования – на данный момент их проведено уже более двухсот – показали, что в большинстве случаев статистические алгоритмы точностью превосходят субъективные суждения, а в той горстке исследований, где это не так, играют вничью. Учитывая, что алгоритмы, в отличие от субъективных суждений, – это быстрый и дешевый способ прогнозирования, ничья засчитывается за их выигрыш. Теперь уже вывод неоспорим: если у вас есть надежный статистический алгоритм, используйте его.

Этот вывод никогда не угрожал царствованию субъективных суждений, потому что мы очень редко располагаем надежными алгоритмами для решения конкретной проблемы. Непрактично заменять математикой старый добрый мыслительный процесс – и в 1954-м, и даже сейчас.

Однако потрясающий прогресс в области информационных технологий свидетельствует, что мы приближаемся к историческому перелому в отношениях человечества и машин. В 1997 году созданный на базе IBM компьютер Deep Blue обыграл шахматного чемпиона Гарри Каспарова. В наши дни имеющиеся в продаже шахматные программы могут обыграть любого человека. В 2011 году суперкомпьютер IBM Watson обошел чемпионов телевикторины Jeopardy! Кена Дженнингса и Брэда Раттера. Для инженеров, создававших Watson, это была гораздо более сложная задача, но они с ней справились. Сейчас уже вполне возможно представить себе соревнование по прогнозированию, в котором суперкомпьютер разгромит как суперпрогнозистов, так и суперумников. После этого люди, конечно, будут и дальше делать прогнозы – но, как случилось с участниками Jeopardy!, мы будем наблюдать за ними исключительно ради развлечения.

Я поговорил об этом с главным инженером Watson Дэвидом Феруччи. У меня не было сомнений, что Watson без проблем выдаст ответ на вопрос о настоящем и будущем – например, «Как зовут двух российских политических лидеров, которые обменялись должностями за последние десять лет?», – однако мне хотелось узнать мнение Дэвида о том, сколько времени пройдет, прежде чем Watson или кто-то из его цифровых потомков сможет ответить на вопрос «Обменяются ли два российских политических лидера должностями в ближайшие десять лет?».

В 1965 году эрудит Герберт Саймон считал, что всего через двадцать лет наступит эпоха, когда машины смогут делать «любую работу, которую могут делать люди». Но тогда вообще часто высказывали подобные наивно-оптимистические мысли, и это одна из причин, по которой Феруччи, работающий в области искусственного интеллекта уже тридцать лет, более осторожен в подобных оценках [14] . Он отметил, что компьютерная наука гигантскими шагами движется вперед и способность машин отслеживать тенденции заметно растет. А их обучение, в сочетании с растущим взаимодействием «человек – машина», которое подпитывает учебный процесс, обещает еще более впечатляющий прогресс в будущем. «Это одна из экспоненциальных кривых, и мы сейчас все еще находимся у ее основания», – сказал Феруччи.

Но все-таки есть огромная разница между вопросом «Как зовут двух российских политических лидеров, которые обменялись должностями за последние десять лет?» и вопросом «Обменяются ли два российских политических лидера должностями в ближайшие десять лет?». Первый вопрос – исторический факт, компьютер может его найти. Второй требует от компьютера высказать обоснованные предположения относительно намерений Владимира Путина, характера Дмитрия Медведева и динамики российской политики, а затем объединить эту информацию в личное мнение. Люди проводят подобный анализ постоянно, но это далеко не просто. Человеческий мозг – удивительный инструмент, раз способен выполнять такие невероятно сложные задания. Даже если учитывать стремительный прогресс компьютеров, они еще не скоро освоят тот тип предсказаний, которым занимаются суперпрогнозисты. И Феруччи вообще не уверен, что мы когда-нибудь увидим под стеклом в Смитсоновском институте человеческую особь с табличкой «субъективное суждение».

Машинам все лучше удается «подражать человеческому мнению» и, соответственно, предсказывать поведение, но «между подражанием мнению и его осмыслением, а также выработкой собственного есть разница», говорит Феруччи. Эта ниша всегда будет занята человеческим суждением. В прогнозировании, как и в других областях, мы будем наблюдать, как от человеческого суждения постепенно отказываются, к отчаянию белых воротничков, но будем встречать и все больше случаев синтеза – как, например, в «шахматах свободным стилем», когда люди и компьютеры соревнуются командами. Люди будут пользоваться несомненной силой компьютеров – но периодически их обыгрывать. В результате должна получиться комбинация, которая может (иногда) превосходить как людей, так и машины. Переосмысляя дихотомию «человек против машины», можно сказать, что комбинация Гарри Каспарова и компьютера Deep Blue может оказаться более плодотворной, чем исключительно человеческий или исключительно компьютерный подходы. Феруччи считает, что если что-то и устареет, то это гуру-модель, которая многие политические дебаты превращает в возню в песочнице: «Я противопоставляю вашим аргументам Пола Кругмана мои контраргументы Ниала Фергюсона и атакую вашу статью Тома Фридмана моим блогом Брета Стивенса». Но он видит свет в конце этого длинного темного тоннеля. Феруччи считает, что будет все более странным следовать советам людей, которые не основываются ни на чем, кроме собственного мнения. Человеческая мысль окружена психологическими западнями – факт, который начали широко признавать только последние пару десятилетий, – «поэтому я хочу, чтобы эксперт-человек работал в паре с компьютером, преодолевая человеческие когнитивные ограничения и предрассудки» [15] . Если Феруччи прав – а я думаю, так и есть, – нам нужно будет объединить компьютеризированное прогнозирование с субъективными суждениями. Поэтому настало время отнестись серьезно и к тому, и к другому.

Увидев пятна на тыльной стороне ладони пациента, дерматолог заподозрил неладное и взял на анализ участок кожи. Цитолог подтвердил базально-клеточную карциному. Пациент в панику не ударился: он сам был врачом и знал, что эта форма рака редко распространяется за пределы новообразования. Карциному удалили. Перестраховываясь, пациент записался на прием к знаменитому онкологу.

Тот обнаружил в правой подмышке пациента узелок. Как давно он там появился? Пациент не знал. Онколог заявил, что узелок нужно удалить; пациент согласился. В конце концов, онколог был опытным, и если он сказал: «Вырезать!», кто же будет спорить? Была назначена операция.

Когда прошло действие анестезии и пациент очнулся, то с удивлением обнаружил, что вся грудь у него перевязана бинтами. Вскоре появился и онколог, с весьма мрачным лицом. «Должен сказать вам правду, – начал он. – В подмышечной впадине у вас много раковой ткани. Я сделал все возможное, чтобы извлечь ее, удалил малую грудную мышцу, но, боюсь, этого недостаточно, чтобы спасти вам жизнь» [16] . Последняя фраза была лишь неудачной попыткой смягчить удар. Онколог ясно дал понять, что жить пациенту осталось совсем недолго.

«На какое-то мгновение мир будто остановился, – позже написал пациент. – Я ненадолго замер в удивлении и шоке, а затем повернулся на бок, насколько смог, и без зазрения совести разрыдался. Об остатке того дня почти ничего не помню». На следующий день, с ясной головой, он «разработал простой план, как провести оставшееся мне время… Когда я закончил, странное чувство умиротворения охватило меня, и я уснул». В последующие несколько дней к пациенту приходили посетители, пытались его утешить, и ему эта ситуация отчего-то казалась неловкой. «Вскоре выяснилось, что они испытывали большее смущение, чем я», – вспоминал он [17] . Пациент умирал – и никуда от этого факта было не деться. Требовалось сохранять спокойствие и делать что должно. Причитания были бессмысленны.

Этот печальный эпизод случился в 1956 году, однако Арчи Кокран, тот самый пациент, не умер – к счастью, поскольку впоследствии он стал видной фигурой в медицине. Онколог ошибся. У Кокрана не было рака – вообще не было, как выяснил цитолог, исследовавший удаленные в ходе операции ткани. «Помилование» стало для Кокрана таким же шоком, как и «смертный приговор». «Мне сказали, что цитологические данные еще не поступили, – написал он много лет спустя, – однако я ни на секунду не усомнился в словах онколога» [18] .

В этом-то и проблема. Кокран не подверг сомнению слова врача, сам врач тоже не сомневался в своем суждении – и оба они, таким образом, даже не рассматривали вероятность неверного диагноза и не считали нужным дождаться отчета цитолога, прежде чем закрывать книгу жизни Арчи Кокрана. Но не стоит судить их слишком строго. Такова человеческая природа: мы слишком быстро приходим к определенному мнению и слишком медленно его меняем. И если не обращать внимания на то, как именно мы совершаем эти ошибки, то они будут повторяться постоянно. Подобная ситуация может продолжаться годами, всю жизнь или даже несколько веков, как свидетельствует долгая и жалкая история медицины.