Чтение онлайн

Необходимость интегрировать данные из многих источников, решать сложные задачи бизнеса и компьютерной логики, а также конкуренция, заставляющая придавать данным более удобную для пользователей форму, ускоряют внедрение искусственного интеллекта. И конечно, оказалось очень велико влияние пандемии.

Наше недавнее исследование показало: более чем три четверти крупных компаний реализуют инициативы по глубокому обучению [12] . Глубокое обучение – это мощная подгруппа методов машинного обучения. В его основе лежат нейросети, состоящие из простых нейроноподобных блоков обработки данных, вместе выполняющих сложные вычисления. Работающий по этому принципу искусственный интеллект должен обучаться методом «снизу вверх» на огромном массиве данных и нередко для более тонкой настройки использовать дополнительные данные. Но этот «жадный до данных» подход имеет существенные ограничения – по мощности, доступности и устойчивости, как мы увидим в следующей главе .

Между тем на переднем крае исследований природа машинного интеллекта становится абсолютно человеческой – менее искусственной и более разумной, походящей не на беспилотный автомобиль, который нужно кропотливо тренировать, а на человеческого младенца, обладающего удивительно эффективной способностью к обучению.

Все это должно заставить топ-менеджеров задуматься о расходах на технологии в ближайшие три-пять лет. С одной стороны, стоящие перед глубоким обучением проблемы огромны и для многих компаний непреодолимы. С другой – глубокое обучение дало так много открытий и ценных результатов, что в ближайшее время оно не уйдет из практики. Согласно планам участвовавших в нашем опросе компаний, эти технологии из разряда необязательных перешли в необходимые.

Однако поиски искусственного интеллекта, наиболее близкого к человеческому, откладывались несколько десятилетий. Теперь же они обрели новую жизнь в попытках преодолеть ограничения нынешних подходов к интеллекту. Для высших руководителей это преодоление начинается с понимания имеющихся ограничений.

Авторы MIT Technology Review проанализировали исследования в области искусственного интеллекта за последние 25 лет (а это 6625 научных работ) и пришли к выводу: глубокое обучение, доминировавшее в этой области последние десять лет, может пойти на спад [13] . Однако оно не исчезнет – останется мощным инструментом для решения некоторых узкоспециальных задач.

Оно будет важным элементом в широком спектре сложных методов, которые в машинном интеллекте склонят чашу весов в пользу человеческого, а не искусственного. Но идея, что глубокое обучение – если ему только дать достаточно времени и скормить достаточно данных – приведет нас к созданию всеобъемлющего искусственного интеллекта, выглядит все менее вероятной.

Многие системы искусственного интеллекта не так уж и умны

Начнем с того, что системы глубокого обучения по необъяснимым причинам часто заходят в тупик. Рассмотрим, как искусственный интеллект распознает объекты на изображениях, – в последнее время это один из самых успешных примеров его применения, хотя с 2017 года прогресс здесь незначительный.

Проект ImageNet, поддерживаемый Стэнфордским университетом, представляет собой общедоступную базу вручную аннотированных изображений из более чем 14 миллионов экземпляров более чем 20 тысяч категорий. Этот массив данных использовался для обучения многих знакомых нам инструментов для идентификации изображений – таких, как Bing от Microsoft, например.

Однако около 7500 реальных фотографий, собранных исследователями, сбивают с толку современные системы компьютерного зрения (так, бегущий юноша на фото был принят за одноколесный велосипед), и при использовании подобных изображений точность падает с 95 до 2 % [14] . То есть отдельные из самых мощных в мире систем компьютерного зрения правильно идентифицируют эти изображения только в двух случаях из ста. А когда на кону не просто корректная классификация, а подлинное распознавание объекта, как в случае с управляемыми искусственным интеллектом автомобилями или дронами, неудачи могут иметь фатальные последствия.

Проблема черного ящика и работа сложных систем

Системы искусственного интеллекта часто используют при принятии важных решений. Кому одобрят кредит? Кого возьмут на работу? Кто получит условно-досрочное освобождение? На какой срок человек попадет в тюрьму? Почему беспилотный автомобиль совершает опасный маневр? Каким именно образом реклама компании распространяется в социальных сетях? И так далее. Однако многие из этих систем (особенно те, которые используют глубокое обучение) непрозрачны.

Невозможно объяснить, как алгоритмы, работающие с огромным количеством параметров и множеством хитросплетенных уровней абстрагирования, делают те или иные выводы. А ведь они иногда могут обернуться катастрофой – приводить к расовой дискриминации в сфере кредитования и судебных решений по уголовным делам, к чудовищным ДТП или к тому, что онлайн-реклама уважаемых брендов появится рядом с неонацистским или конспирологическим контентом.

Стремление сделать искусственный интеллект объяснимым, законодательно закрепленное в Общем регламенте Европейского союза о защите данных, вызывает вопрос: объяснимым для кого? Трактовки ищут разные заинтересованные стороны. А трудности возникают даже при использовании относительно простой системы оценки кредитного риска [15] .

Разработчики программного обеспечения и системные администраторы хотят получить разъяснение с точки зрения архитектуры и параметров обработки данных. Опытному кредитному специалисту, принимающему окончательное решение, возможно, понадобится информация о том, как система учитывала разные факторы, выдавая рекомендацию. Заявитель хочет понять, почему ему отказали: из-за возраста, расы, места проживания, плохой кредитной истории?

Регулятору важно быть уверенным, что система не нарушает конфиденциальности данных и антидискриминационных законов и что она неуязвима для финансовых мошенников. Неспециалист, размышляющий о проблеме черного ящика в целом, может захотеть узнать, зачем кому-то создавать машину, действий которой он не понимает.

Системы глубокого обучения не умеют читать

Мы можем собрать все книги мира в огромную базу данных с возможностью поиска (как в Google Books) и разработать программы машинного чтения, чтобы обнаружить все присутствующие виды взаимосвязей. Но ни одна из существующих систем искусственного интеллекта не может читать и понимать прочитанное даже на уровне маленького ребенка.

Исследователи Гэри Маркус и Эрнест Дэвис задали сервису Google Talk to Books простой вопрос: «Где Гарри Поттер встретил Гермиону Грейнджер?» Ни один из двадцати предложенных ответов не относился к книге «Гарри Поттер и философский камень» и ни в одном не содержалось информации, где же произошла встреча [16] .

Смартфоны могут относительно хорошо исправлять опечатки или предлагать следующее слово в предложении. Программы-переводчики выдают вполне сносные переводы со многих языков. Но ни одно из этих приложений – как и никакие другие – не дает базовых знаний, чувства контекста и бесчисленных предположений о реальности, необходимых для понимания прочитанного.

Им не хватает базовых знаний

А именно: понимания пространства, времени и причинно-следственных связей – того, чему люди, подобно младенцу, достающему карандаш, научаются без видимых усилий [17] .

Возьмем причинно-следственные связи – важнейший компонент рационального мышления. Во многом успех глубокого обучения был обусловлен мощной способностью находить корреляции, например между совокупностью симптомов и конкретным заболеванием. Но корреляция – это не причинно-следственная связь. Если бы машины понимали, что одно является следствием другого, их не нужно было бы переучивать под каждую новую задачу [18] . Вместо этого они могли бы применять свои знания из одной области к другим областям.