Чтение онлайн

Важно понимать образ жизни такого модератора. Поставим себя на место условного Мбеке Рукеле, гражданина Ганы. Одно из ярких воспоминаний его детства – как в пять лет он с братьями ездил на базар в город Аккру продавать куриц. Местные жители поймали колдуна, который через рукопожатие при помощи черной магии украл чьи-то гениталии и требовал за них выкуп. Разъяренная толпа жестоко убила колдуна, и потом это показывали во всех новостях по телевизору. Сейчас у Мбеке две коровы, двое детей и две жены. Коров раньше было больше, но осталось только две, потому что трех съели крокодилы. Двое из восьми братьев уже погибли на войне, один в поисках лучшей жизни стал пиратом в Сомали, другой уехал учиться в университет. Сезон засушливый, а кормить детей как-то надо. Недавно брат Мбеке приезжал из университета, показывал смартфон и рассказывал, что можно зарабатывать $1,5 в час, просто нажимая на картинки, даже не нужно лезть под пули. $1,5 – это 18,75 ганских седи. За 20 седи можно купить цыпленка, за 35–40 – двухмесячную курицу, а за 40 часов можно заработать достаточно денег, чтобы купить козу. Что в такой жизненной ситуации выберет Мбеке Рукеле, и не является ли этот сценарий наилучшим вариантом для него?

С 2020 года военные перевороты один за другим потрясали Западную Африку от Гвинеи до Буркина-Фасо и Мали. В 2021 году армия пришла к власти в Чаде, в июле 2023 года государственный переворот произошел в Нигере, следом за ним – в Габоне. С начала 2020-х годов значительно повысилась террористическая активность в африканском регионе Сахель – это тысячи километров земель от Атлантического океана до Красного моря, где расположены 12 стран и проживает 300 млн человек. В Нигерии в начале марта 2024 года из школы были похищены 286 учеников, студентов и учителей, за освобождение которых похитители требовали выкуп в миллиард нигерийских найр ($620 тысяч). Предыдущее массовое похищение произошло в 2021 году.

В такой ситуации модерирование материалов с казнями и насилием может быть полностью осознанным выбором, так как иногда это единственная возможность оставаться на плаву. Этот выбор может быть и менее осознанным, потому что человек существует в парадигме, где психологические отклонения нереальны. Для него депрессия – это просто плохое настроение, при котором он все равно идет собирать плоды баобаба и доить коров, а не повод для похода к психотерапевту и саморефлексии. К тому же для жителей развивающихся стран некоторые «шокирующие» нас вещи абсолютно естественны и привычны, а насилие – нормализовано. Например, для них кролик или цыпленок – это не питомец, а источник пищи, из которого они, не особо задумываясь, сварят суп. А в некоторых регионах Индии публичная дефекация является нормой.

Проще говоря, если можно было бы измерить психологическую травму в неких условных единицах, то просмотр картинки с насилием нанес бы миллениалу из среднего класса в Сан-Франциско – Х ущерба, а жителю Ганы, Кении или Уганды – 0.7Х ущерба. Тем не менее, психологический ущерб от просмотра таких материалов неизбежен: после нескольких месяцев подобной работы модераторы выгорают и заменяются другими – без выходного пособия или медицинской страховки для проработки полученных психологических травм.

В числе своих клиентов компания Sama называет Google, Microsoft и Ebay. Полагаю, все они в курсе, как и откуда берутся их датасеты. Та же Microsoft еще в марте 2023 года объявила о роспуске централизованной команды по этике ИИ, сотрудники которой формировали правила в областях, где они еще не сформированы, то есть занимались саморегулированием тех сфер, куда пока не проникло законодательство. Компанию Microsoft можно понять: если соперники не отягощают себя этическими вопросами и дополнительными искусственными ограничениями, то для любой коммерческой организации это означает потерю скорости и конкурентного преимущества. Примечательно, что Microsoft является одним из крупнейших инвесторов в OpenAI, вложив в компанию $13 млрд.

В доденежных сообществах люди были вполне самодостаточны. Они находили, добывали или выращивали себе пищу и производили необходимые для быта вещи. Робинзон Крузо на необитаемом острове размышлял о ценности своих богатств, которые перестали быть таковыми, когда он один и торговать не с кем:

У меня было немного денег – серебра и золота, – всего около 36 фунтов стерлингов. Увы, они лежали, как жалкий, ни на что не годный хлам. Мне было некуда их тратить. С какой радостью отдал бы я пригоршню этого металла за десяток трубок для табака или ручную мельницу, чтобы размалывать зерно. Да что там, я отдал бы все эти деньги за шестипенсовую пачку семян репы и моркови, за горсточку гороха и бобов или за бутылку чернил. Эти деньги не давали мне ни выгод, ни удовольствия. Так и лежали они у меня в шкафу и в дождливую погоду плесневели от сырости в моей пещере. И будь у меня шкаф полон алмазов, они точно так же не имели бы для меня никакой цены.

Когда Робинзон Крузо находит в обломках погибшего корабля сундуки с одеждой, порохом и драгоценностями, он сожалеет, что приобрел очень немного полезных ему вещей:

Деньги же не представляли для меня никакой ценности: это был ненужный сор, и все свое золото я охотно отдал бы за три-четыре пары английских башмаков и чулок, которых не носил уже несколько лет. Да, у меня стало больше денег, но я не стал от этого богаче, ибо деньги в моем положении были мне так же мало нужны, как индейцам до вторжения в Перу испанцев.

Инки Южной Америки вообще дожили без денег до испанского завоевания начала XVI века: в их плановой экономике император давал указания, что выращивать и производить, а затем все это собирали и перераспределяли. Соседние мексиканцы управлялись менее жесткой рукой, поэтому расплачивались золотым песком и какао-бобами. Инки использовали драгоценные металлы для предметов искусства и религии, но так и не изобрели денег, в которых просто не было необходимости. Золота и серебра у инков было так много, что выкуп за своего правителя Атауальпу они собирали несколько месяцев и еще месяц переплавляли, в итоге заполнив комнату площадью 35 кв. м до отметки на высоте поднятой руки. Общая стоимость выкупа в ценах 2000 года составила в $6,8 млрд. Однако коварные испанцы все равно казнили вождя.

Кстати, американцы только недавно (по историческим меркам) обратили внимание на то, что они творили во времена колонизации и индустриализации, когда подбрасывали индейцам одеяла с оспой и ввозили рабов из Африки для хлопковых плантаций. Груз вины за деяния предков заставляет спортсменов преклонять колено на соревнованиях в знак протеста против недостаточного внимания к проблемам расового неравенства и жестокости полиции. Этот извинительный жест массово использовался и вне спортивного контекста в рамках акций протестного движения BLM [6] .

Сколько времени должно пройти до извинений и выплат репараций кенийцам, угандийцам и ганцам за искалеченную при разметке данных для искусственного интеллекта психику десятков тысяч человек? Возникнет ли в странах, граждане которых оказывают подобные услуги, поколенческая травма, вызванная постоянным просмотром токсичного контента? Как подобные бизнес-практики могут поменять культуры развивающихся стран?

Робинзона Крузо волею судеб отбросило на предыдущий этап исторического и финансового развития, где золото и серебро представляли ценности другой, ставшей для него недоступной реальности. Испанские конкистадоры увозили золото из доденежных сообществ в свою среду, где деньги имели ценность, а инки умирали не за драгоценный, а всего лишь за красивый металл. Что увозят современные конкистадоры из менее технологически развитых сообществ? За какие (и чьи) ценности психологически выгорают люди, сортирующие по папкам фотографии со сценами насилия?

Нужно учитывать, что взгляды и ценности кенийского мусульманина, жителя Ганы, исповедующего акан [7] , и стартапера из Сан-Франциско значительно различаются по целому спектру вопросов – от нетрадиционных сексуальных отношений и правомерности употребления марихуаны до фундаментальных проблем мироздания. Получается, что условный кенийский мусульманин должен не только наблюдать травматичный контент, но и корректно отделять «хорошее» от «плохого». Это усугубляет описанную проблему в двух аспектах: