Чтение онлайн

Сегодня часто существует значительный разрыв между информацией, которая у нас есть или к которой мы можем получить доступ, и информацией, необходимой для принятия этичного решения. Как заполнить этот пробел – как получить информацию, которой у нас нет, но которая нам нужна? Вы задаете вопросы, слушаете, наблюдаете, исследуете, проверяете факторы, влияющие на ваши решения, а затем часто повторяете все эти шаги, чтобы скорректировать свой путь, когда информация меняется. Примите во внимание следующее.

• Сверились ли вы с несколькими источниками, провели ли перекрестную проверку, сравнив свои взгляды и взгляды других людей?

• Может ли в будущем появиться новая информация, которая существенно изменит ваше понимание?

• Не выискиваете ли вы факты, нельзя ли сказать, что вы слышите и видите только то, что хотите услышать и увидеть, чтобы поддержать предвзятое мнение или быстро исправить свой бинарный ответ наподобие «делай это» или «не делай этого»?

Собирая информацию, я стараюсь избегать таких слов и словосочетаний, как «предполагать», «допускать», «кажется», «принял это как данность», «это должно быть правильно», «должно быть так» или «интуитивно чувствую», потому что они могут привести к рискованным упрощениям и предвзятости, а не к фактам. Предположения ведут нас к чрезмерно упрощенному ответу «черное или белое», а не к реальным оттенкам серого, потому что детальную информацию мы никогда не получаем.

Иногда мы принимаем неправильные решения оттого, что у нас было недостаточно информации, и полезно бывает оглянуться на причины этого. Например, причины могут быть такими.

• Вы не знали важного факта и не могли знать.

• Вы не знали этого факта, но могли знать.

• Вы не знали этого факта, но должны были знать.

• Вы знали этот факт, но солгали, утверждая, что не знаете.

• Вы знали этот факт, но проигнорировали его.

Некоторые из этих пунктов возвращают нас к истории с Boeing.

Компания Boeing располагала в решающие моменты чрезвычайно важной информацией, но ее игнорировали. Например, в 2016 году, еще до поставки самолетов, главный технический пилот Boeing при испытаниях на тренажере сказал, что система MCAS «бесчинствует» [92] . В июне 2018 года, за четыре месяца до первого крушения самолета, в Boeing узнали, что, если пилот не успеет правильно отреагировать на неправильное срабатывание MCAS за десять секунд, результат может быть «катастрофическим» [93] . Однако в октябре 2019 года, ровно через год после крушения рейса Lion Air и после крушения рейса Ethiopian Airlines, генеральный директор Boeing Деннис Мюленбург заявил сенату США: «Если бы мы знали тогда все, что знаем сейчас, мы приняли бы иное решение» [94] . В Boeing всё знали. Но вместо того, чтобы взять на себя ответственность за свой провал и принять меры, они возложили часть вины на пилотов.

Кроме того, у пилотов Lion Air вряд ли было достаточно знаний о рисках: им было неизвестно, что предупреждение о несогласии не действует, что существует система MCAS [95] и что один-единственный сломанный датчик угла атаки запустит эту мощную систему для предупреждения сваливания [96] . Они не знали этих фактов, которые были необходимы им, чтобы избежать трагедии. Компания Boeing скрыла эту информацию от пилотов. Когда мы игнорируем и утаиваем информацию, мы делаем это на свой страх и риск и подвергаем риску других людей.

Теперь давайте рассмотрим то, что, без сомнения, было известно трем основателям Airbnb – и что они могли знать, а что должны были знать, когда решили сводить хозяев жилья и путешественников. В июле 2016 года генеральный директор компании Брайан Чески признал, что они не учитывали расизм, когда основывали компанию. «Было много вещей, о которых мы не думали, когда мы, три белых парня, разрабатывали эту платформу», – сказал он [97] . Airbnb как бизнес-модель смешанной экономики подразумевает две составные части – интернет и гостеприимство. Основатели этой платформы должны были понимать, что оба этих элемента (как по отдельности, так и вместе) допускают риск расизма. Расизм пронизывает онлайн-общение. Например, согласно полученным в 2017 году данным Исследовательского центра Пью, от оскорблений и притеснений онлайн, связанных с расой, страдает каждый четвертый афроамериканец [98] . Кроме того, широко известно, что отели, их управляющие и персонал в прошлом подвергали гостей дискриминации по расовому признаку. Даже если создатели Airbnb упустили из виду особые законы против дискриминации, они должны были учитывать риск того, что расизм проникнет на их платформу через гостей и хозяев. Учитывая то, что в интернете постоянно появляется очень много контента с расовым подтекстом, и то, что проявление расизма в гостиничной индустрии было известным фактом, основатели Airbnb должны были знать (или, по крайней мере, могли знать), что им следовало уделить внимание дискриминации в модели, где встречается гостиничный бизнес и интернет.

Под заинтересованной стороной я подразумеваю любого человека, организацию, объект или фактор, которые могут повлиять на решение или ситуацию или на которые может повлиять такое решение или ситуация. Мы часто думаем, что «заинтересованная сторона» – это только человек, но на самом деле это могут быть и неодушевленные объекты, если они оказывают воздействие на наш выбор (или наш выбор оказывает воздействие на них). Даже термометр у вас на кухне можно назвать участником событий, ведь он дает вам информацию («на улице +2 °C»), которая влияет на ваши решения («Надо надеть пальто»). Заинтересованными сторонами могут быть компания, политика, алгоритм, чат-бот, результат экзамена, фальшивые новости – фейки, отредактированный ген, правительственная организация и многое другое. Они могут внести положительный или отрицательный вклад в ваши решения, а вы можете повлиять на них – положительно или отрицательно.

В случае с Boeing решения, принятые на разных этапах трагедии с самолетами 737 Max, оказали «волновой» эффект на широкий круг заинтересованных сторон, в число которых, как минимум, входили: сотрудники, руководители и акционеры Boeing; поставщики Boeing и их сотрудники; коммерческие перевозчики, которые перестали поднимать в воздух эти самолеты и отменяли рейсы; экипажи самолетов по всему миру, в том числе пилоты американской авиакомпании Southwest Airlines, которые подали в суд на Boeing из-за того, что им не выплатили компенсацию [99] ; конкурент Boeing, компания Airbus, которая в 2019 году поставила в два раза больше пассажирских самолетов, чем Boeing [100] ; множество предприятий, которые полагаются на самолеты Boeing для путешествий; Федеральное управление гражданской авиации (ФАА), потерявшее авторитет мирового лидера в области безопасности полетов [101] ; другие отрасли, разрабатывающие технологии автоматизации, – теперь они изучают эту трагедию, чтобы извлечь из нее урок; и, разумеется, 346 жертв, их близкие и люди, которых они даже никогда не встречали, но которых так или иначе затронула их гибель.

Не бывает так, чтобы при принятии решения мы были единственной заинтересованной стороной. Не бывает так, чтобы наши решения касались только нас самих. Они влияют на множество людей и явлений – о некоторых из них в момент принятия решения мы не подозреваем и можем никогда о них не узнать. В ситуациях на передовой бывает сложно, порой даже невозможно определить все заинтересованные стороны, как фактические, так и потенциальные. К моменту создания этой книги компания Airbnb обслуживает каждые сутки в среднем по 2 миллиона гостей в 220 странах и регионах по всему миру [102] . И это мы не говорим о хозяевах, членах их семей, их соседях, предприятиях, которые затрагивает деятельность Airbnb, законодателях, которые регулируют (или не регулируют) эту деятельность, последствиях их работы в налоговой сфере и так далее.

Как подойти к вопросу определения всех заинтересованных сторон? Начать можно с тех, на кого развязка будет влиять непосредственно, или с тех, кто непосредственно влияет на развязку (например, некомпетентная регулирующая организация), или с тех, кто несет серьезные риски (например, пассажиры самолета). Если определить отдельных лиц мы не можем, мы все же можем принимать в расчет категории заинтересованных сторон (например, сотрудников предприятий-поставщиков Boeing или хозяев, сдающих жилье через Airbnb). Как мы увидим в главе 2, временами на передовой мы не можем даже представить себе, кем окажутся заинтересованные стороны, поскольку мы не способны вообразить потенциальные способы использования или злоупотребления той или иной технологией или отклик людей на какую-то ситуацию.

Эта парадигма требует, чтобы мы рассмотрели последствия своих решений в краткосрочной, средней и долгосрочной перспективе уже в тот момент, когда мы их принимаем. Следовательно, нам нужно осуществить обычные для этой структуры сверки, чтобы отслеживать последствия с течением времени и учитывать вновь возникающие повороты.