Чтение онлайн

Если задуматься о развитии человечества в целом, то очевидно, что проблемы нашего общества не могут решиться сами собой (точнее, решиться они могут, но не факт, что результат всем понравится). Для их решения нужно предпринимать действия стратегического характера, организовывать глобальные проекты. Но выясняется, что частный сектор неутомимо стремится к прибыли и имеет относительно краткосрочный горизонт планирования, а государства связаны с бизнесом сложной системой сдержек, противовесов и групп влияния, а также страдают от нехватки качественной экспертизы. В итоге принимаются тактические, а не стратегические решения.

Это опасно для человечества в целом — ведь может оказаться, что за пределами горизонта планирования нас ждёт катастрофа, подобно тому как в шахматной партии ход, который на первый взгляд ведёт к выигрышу фигуры, может привести к получению мата. То есть выигрыш в краткосрочной перспективе оборачивается в конечном счёте поражением. Например, массовое применение антибиотиков по поводу и без повода угрожает проблемой возникновения резистентных бактерий, а экологически вредные производства грозят нанести непоправимый ущерб биосфере и привести к несопоставимо большим затратам на ликвидацию своих последствий.

Мне кажется, что это должно стать причиной как минимум для серьёзной общественной дискуссии.

Один из парадоксов современной экономической системы заключается в том, что наряду с проблемой безработицы во многих направлениях хозяйства наблюдается острая нехватка человеческих рук, причём нельзя сказать, что это исключительно новые направления, в которых подготовка специалистов началась сравнительно недавно. Вот лишь короткий список направлений полезного (по моему мнению) применения человеческого труда, в которых явно не помешали бы дополнительные работники:

• Социальная сфера:

• • Усиление заботы о детях и пожилых.

• • Повышение доступности детских садов и социальная поддержка молодых семей.

• Образование:

• • Бесплатное и льготное образование для широких слоёв населения.

• Наука:

• • Биомедицинские исследования.

• • Социальные исследования.

• Экология:

• • Переработка отходов.

• • Очистные мероприятия.

• • Создание и поддержка заповедников.

• Инфраструктура:

• • Энергетика.

• • Транспортная инфраструктура.

• Здравоохранение:

• • Увеличение числа медучреждений, докторов, младшего медперсонала.

• • Продвинутая профилактика.

• R&D:

• • Сервисы и продукты на базе ИИ.

• • Биотехнологии.

• • Чистые технологии и переработка.

• Искусство:

• • Цифровое искусство.

• • Искусство, создаваемое при помощи ИИ.

Конечно, найдутся люди, которые скажут, что не всякий человек способен стать программистом, медиком или учёным, однако не стоит переоценивать влияние «природной предрасположенности». Предки многих современных специалистов, работающих в высокотехнологических отраслях, ещё несколько поколений назад не умели читать и писать. Любознательность и желание учиться формируются у детей в раннем возрасте, и это может создать впечатление, что они являются врождёнными. Однако в большинстве случаев врождённые факторы могут быть с лихвой перекрыты как положительным, так и негативным влиянием среды. В пользу этого свидетельствует вся история развития человеческого общества. Несмотря на это, мы до сих пор выделяем ничтожные ресурсы на воспитание и образование подрастающего поколения. Как изменился бы мир, если бы на воспитание и образование детей в странах третьего мира выделялись средства, сопоставимые с военными бюджетами развитых стран? Педагог, работающий с детьми в детском саду или начальной школе, чаще всего куда более низкооплачиваемый специалист, чем преподаватель старших классов или высшей школы. Однако цена педагогических ошибок, допущенных в раннем возрасте ребёнка, чрезвычайно высока. Нелюбознательный ребёнок, которому взрослые отбили всякое желание познавать окружающий мир и заниматься творческим трудом, во взрослом возрасте становится обузой общества. И несмотря на этот очевидный факт, правительства во всём мире принимают абсолютно недостаточные усилия для того, чтобы сделать воспитание и образование детей качественным и доступным для всех слоёв населения. Как следствие, после взросления плохо обученных детей правительства тратят значительно большие деньги на их встраивание в общество, то есть борются с последствиями своей недальновидной политики.

А если бы развитые страны помогли странам третьего мира улучшить образование и воспитание детей, то это помогло бы решить проблемы терроризма и религиозного фундаментализма в мировом масштабе, что в конечном счёте обошлось бы человечеству дешевле, чем нынешняя борьба с терроризмом.

Как выясняется при детальном рассмотрении, технологическая безработица парадоксальным образом носит вовсе не технологический характер. Дело не в том, что в мировой экономике недостаточно сфер, в которых человеческий труд был бы востребован. Проблема заключается не в «бесчеловечных технологиях», отнимающих у людей их рабочие места, а в том, как сами люди распределяют общественные ресурсы. Как мне кажется, общество, создающее «бессмысленную занятость» на фоне дефицита специалистов во множестве сфер, требует серьёзных изменений.

Пока философы ведут споры о проблеме сверхразума, наш мир незаметно вступил в эру прикладного ИИ — всё больше и больше решений в обществе принимается при помощи различных математических моделей, созданных обычно при помощи методов машинного обучения. Какие специфические проблемы присущи этому алгоритмическому миру, если, конечно, они вообще есть? Этой проблемой в последние годы занимается ряд исследователей, имена которых, к сожалению, не столь широко известны, как имена Илона Маска или Ника Бострома. Фундаментальная работа по систематизации подводных камней алгоритмического общества была осуществлена американской исследовательницей Кэти О’Нил в книге, которая в русском переводе получила название «Убийственные большие данные. Как математика превратилась в оружие массового поражения» (Weapons of Math Destruction: How big data increases inequality and threatens democracy [3173] , дословный перевод: «Средства математического поражения: как большие данные увеличивают неравенство и угрожают демократии» [3174] ).

Пройдёмся по проблемам, на которые обращает внимание О’Нил.

1. Проблема закрытости. Положим, что вы представитель какой-либо массовой профессии. В момент, когда вы устраиваетесь на работу, ваша анкета, скорее всего, будет оцениваться при помощи математической модели, призванной отсеять заведомо неподходящих кандидатов. С тем же самым вы столкнётесь, подавая заявку на кредит и во многих других ситуациях. Однако такая система может содержать в себе определённые дефекты. Кроме того, дефекты могут содержать данные, введённые в систему, а также данные о вас, полученные из других информационных систем (например, клиенты российских банков нередко сталкиваются с ошибочными блокировками своих счетов из-за некорректного сопоставления их с лицами, в отношении которых суд принял решение о блокировке). Ввиду вышеизложенного принятое моделью решение вполне может оказаться ошибочным.