Чтение онлайн

Ценностно-ориентированный подход к технологиям поможет нам восстановить баланс и выйти из этого трудного положения. Во-первых, прямо признав политическую природу технологий, мы сможем сформировать требования к ответственному и эффективному управлению. Во-вторых, сделав приоритетом управления общественные ценности, мы сможем контролировать, как используются технологии и кому они несут выгоду. В-третьих, четко определив, где и как ценности становятся частью технологических систем, мы сможем лучше понять их и найти оптимальные стратегии внедрения ценностей в процесс разработки технологий.

Связи между технологиями и ценностями нелегко сформулировать. Ценности абстрактны и неосязаемы, к тому же они сильно различаются у разных людей и обществ. А технологии распространились повсюду – от языков до космических ракет. При таких масштабах поиск связей становится сложной задачей. К сожалению, в попытках найти простое решение возникли две всем знакомые, но дезориентирующие позиции. Их можно вкратце изложить так:

Точка зрения № 1: технологии предопределяют будущее

Эта точка зрения предполагает, что технологии влияют на общество, мотивируя, направляя и ограничивая нас разными способами, а технический прогресс – это внешняя, почти неодолимая сила, которую нельзя изменить или остановить. Люди, принимающие эту точку зрения, часто говорят о технологиях так, будто они определяют историю и наши ценности, направляя нас к прогрессу или упадку, и считают, что нет смысла пытаться помешать этому.

Точка зрения № 2: технологии нейтральны по отношению к ценностям

Вторая точка зрения отрицает, что сами по себе технологии имеют какое-либо значимое влияние на общество, и характеризует их как нейтральные инструменты. Сторонники этой точки зрения утверждают, что на общество влияют отдельные личности, которые выбирают, как именно использовать инструменты. При этом обсуждение возможностей технологий и их влияния на людей несправедливо переключается на моральные качества исключительно пользователей, а не создателей и распространителей этих технологий.

Этих точек зрения недостаточно, чтобы задать направление Четвертой промышленной революции. Хотя в каждой из них есть зерно правды, обе они достаточно опасны в эпоху, когда технологии показывают динамику, описанную во второй главе, распространяясь все быстрее, предоставляя пользователям все больше власти, окружая нас со всех сторон и проникая в нас.

Сторонники первой точки зрения считают, что технологии находятся вне контроля общества, тогда как вторые снимают с общества ответственность за влияние, оказываемое технологиями. И те и другие упускают из виду, что технологии и общество формируют друг друга. Ядерные технологии – хороший пример, показывающий, как опасно полностью принять любую из этих точек зрения. Это определенно не «просто инструменты», ведь само существование ядерных технологий, позволяющих получать энергию и создающих угрозу ядерного уничтожения, создает огромную напряженность. Недавние обострения геополитических споров напомнили всем о ядерной опасности, а Нобелевскую премию мира в 2017 году присудили Международной кампании за запрещение ядерного оружия (International Campaign to Abolish Nuclear Weapons, ICAN). В то же время ядерные технологии не обязаны определять судьбу человечества, потому что общество способно решать, какие технологии разрабатывать, как это делать, кто при этом имеет право голоса и каким целям все это служит. И действительно, все больше стран решает отказаться от ядерной энергии, о чем свидетельствует обязательство правительства Германии закрыть к 2022 году последнюю ядерную станцию {23} .

Для продвижения по пути прогресса во время Четвертой промышленной революции требуется более вдумчивое и практичное отношение к технологиям, а также возможность подробно обсуждать их цели, риски и неопределенности. Необходима третья точка зрения: «Все технологии имеют политическую природу». О политике здесь говорится в описательном смысле. Мы не подразумеваем, что технологии олицетворяют правительства, связаны с определенной партией или каким-то образом вытекают из «левой» или «правой» идеологии. Мы имеем в виду, что технологии – это решения, продукты и воплощения идей, полученные в результате социальных процессов, поддерживающие и выражающие стремления людей и организаций, содержащие в себе целый ряд допущений, ценностей и принципов, которые, в свою очередь, могут повлиять (и влияют) на власть, структуру и состояние общества.

В итоге технологии связаны со всем, что мы знаем, с тем, как мы принимаем решения и как мы думаем о себе и других. Они связаны с нашей самоидентификацией, с нашим мировоззрением и вероятным будущим. Значение технологий, будь то ядерные разработки, космическая гонка, смартфоны, социальные сети, машины, медицина или инфраструктура, делает их политическими. Даже концепция «развитой» страны опирается на уровень применения технологий и на их экономическое и социальное значение.

Многие ученые и технологи уже признали политические аспекты технологий. Например, Институт инженеров по электротехнике и электронике (Institute of Electrical and Electronics Engineers, IEEE) в своей Глобальной инициативе по этическим соображениям относительно искусственного интеллекта и автономных систем (Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems) называет ИИ «социотехнической системой» {24} . Необходимость глубоких размышлений о ценности ИИ привела к появлению ряда общественных инициатив, координируемых академическими, правительственными и промышленными экспертами. Наффилдский совет по биоэтике определяет биотехнологии как «сочетание знаний, практик, продуктов и приложений» {25} . В объяснении этого определения указывается, что биотехнологии, как и люди, – это больше, чем сумма физических частей:

Любая технология несет в себе отражение ценностей, целей и убеждений ее создателей. И чем мощнее технология, тем важнее понимать то, что в нее заложено.

Чаще всего экономические мотивы диктуют, какие технологии целесообразно развивать, как их реализовывать и применять. Эти мотивы можно распознать по социальным последствиям. Например, недавно обсуждалось, этично ли (и сколько это будет стоить) фильтровать цифровой контент для борьбы с фальшивыми новостями. Это обсуждение непосредственно связано с экономическими императивами технологических компаний, с архитектурой их платформ, с их приемами отслеживания, сегментации и доставки контента группам потребителей. В среде цифровых социальных медиа, как и в традиционной индустрии газет, телевидения и радио, экономическое давление и методы управления продуктами определяют, что и как становится известно миллиардам людей. Открытая природа Интернета позволяет быстро масштабировать технологии социальных медиа, но при этом чрезвычайно усложняет мониторинг сетей в поисках контента, который считается «асоциальным».

Признавая, что технологии олицетворяют определенные социальные установки, интересы и цели, мы получим больше возможностей, чтобы инициировать изменения. Одновременно мы будем обязаны брать на себя ответственность, потому что не сможем ни винить в нежелательных последствиях только технологии, ни игнорировать их влияние на наши решения. Признать это – значит взять на себя три обязанности:

1. Определить ценности, связанные с конкретными технологиями.

2. Понять, как технологии влияют на наш выбор, на принятие решений.

3. Определить наилучшие способы влияния на развитие технологий для всех заинтересованных сторон.

В политических переговорах между представителями общества, технологий и бизнеса именно мы должны определять, какое внимание будет уделено общественным ценностям.

Поскольку технологии тесно интегрированы в общество, на нас лежит ответственность за определение направления их развития и обязанность объявить приоритет общественных ценностей. Хотя технологии часто воплощают те ценности, которые заложены в их структуру и предназначение, непросто решить, какими должны быть эти ценности. Джон Хэвенс (John Havens) из IEEE сформулировал эту проблему так: «Как машины узнают, каковы наши ценности, если мы сами этого не знаем?.. …Мы не сможем улучшить благосостояние человечества, если не уделим время определению наших общих ценностей, чтобы создавать технологии, которые наверняка будут отвечать этим идеалам» {26} .