Facebook вновь обвиняют в массе грехов — от «соблазнения» детей до пропаганды насилия. И вызывают в cенат Главное из серии расследований The Wall Street Journal

30 сентября в комитете сената США по защите прав потребителей прошли слушания с участием руководителя отдела безопасности компании Facebook Антигоны Дэвис, которой пришлось отвечать на вопросы и выслушивать критику сенаторов как от Республиканской, так и Демократической партии. Поводом для встречи стала новая статья из серии расследований, выходящей в The Wall Street Journal: по информации WSJ, руководство Facebook санкционировало разработку детской версии инстаграма, чтобы конкурировать с популярными среди соответствующих возрастных групп тиктоком и снэпчатом. Исследовательские группы компании пытались разобраться, как адаптировать интерфейс и содержание приложения, чтобы заинтересовать новую аудиторию — не только подростков 15–18 лет, но и детей до 13. При этом компания прекрасно осведомлена о негативном влиянии, которое ее соцсети оказывают на юных пользователей, утверждает WSJ. И это содержание лишь одной из нескольких статей о крупнейшей в мире соцсети, которые вышли в главном американском бизнес-издании за последние недели, — в остальных список обвинений в адрес компании еще длиннее. Рассказываем главное о последнем скандале с Facebook.

На первой сессии слушаний по делу Facebook (их запланировано несколько) один из инициаторов расследования, сенатор-демократ Ричард Блументаль рассказал, как его помощники создали аккаунт от лица 13-летней девочки и подписались на несколько страниц об экстремальном похудении. И, по его словам, меньше чем через сутки соцсеть начала рекомендовать этому фейковому аккаунту все больше контента, навязывающего пищевые расстройства и нанесение себе увечий.

«Инстаграм — это первая детская сигарета, на которую подростков подсаживают с раннего возраста, — заявил на слушаниях сенатор от Демократической партии Эд Марки. — Он эксплуатирует их стремление к популярности среди сверстников и вынуждает подвергать свое здоровье опасности». Другие сенаторы обращали внимание на недостатки механики инстаграма: соцсеть позволяет подросткам создавать аккаунты и ничего не может поделать, если те врут о своем возрасте.

Глава отдела безопасности компании Антигона Дэвис придерживалась той же линии, что и ее коллеги в общении с прессой: она говорила, расследователи WSJ неправильно интерпретировали многие внутренние документы Facebook и на самом деле инстаграм помогает многим подросткам преодолеть психологические проблемы. 

Но после выхода расследований о вреде соцсети для ментального здоровья тинейджеров под давлением медиа и законодателей руководитель Instagram Адам Моссери объявил, что работа над детским приложением приостановлена. «Я все еще уверен, что это хорошая идея — создать безопасный инстаграм для подростков, — заверил топ-менеджер соцсети. — Но мы хотим взять паузу, чтобы пообщаться с родителями, исследователями, экспертами и прийти к единой позиции».

Американские законодатели продолжат обсуждение противоречивых аспектов деятельности соцсетей 5 октября 2021 года. Тогда же должен дать показания информатор, который предоставил сенаторам внутренние данные компании. Его личность пока не раскрывается, но члены сенатской комиссии заранее потребовали от Антигоны Дэвис пообещать, что руководство Facebook не будет предпринимать никаких мер против сотрудничающего с властями сотрудника.

Еще одна претензия к фейсбуку — VIP-пользователи

Еще одна претензия к Facebook заключается в том, что соцсеть ведет тайный список VIP-пользователей, к которым не применяются обычные алгоритмы модерирования, утверждает WSJ. Этим «элитным» пользователям соцсеть позволяет демонстративно нарушать правила, то есть распространять фейки, призывы к насилию, личные данные и прочее, за что пост обычного пользователя немедленно удалят, а его самого забанят.

В качестве доказательства WSJ приводит внутренний отчет Facebook, где напрямую говорится о списке из более чем миллиона человек по всему миру. Любой из них может нарушить предписания соцсети без последствий для себя. Например, пользователи из VIP-списка рассказывают о смертельных побочных эффектах вакцин от коронавируса и обвиняют высокопоставленных демократов в создании тайной секты педофилов (это популярная конспирологическая теория QAnon). «Обычные» пользователи фейсбука получили бы за это как минимум временный бан.

Другой пример — знаменитый бразильский футболист Неймар, выложивший в соцсеть переписку с женщиной, обвинившей его в изнасиловании. Нападающий «ПСЖ» раскрыл ее имя и опубликовал обнаженные фотографии — в стандартной ситуации обнародование подобного контента без обоюдного согласия сторон подразумевает немедленное удаление, но из-за особого статуса Неймара его пост оставался в открытом доступе больше суток. Аккаунты пользователей, которые допустили подобное нарушение, должны удаляться, но администраторы фейсбука не решились выгонять из соцсети звездного спортсмена.

А в мае 2020 года, когда в США начались массовые беспорядки после убийства полицейскими афроамериканца Джорджа Флойда, тогдашний президент Дональд Трамп опубликовал в своем аккаунте пост со словами «За грабежами следует стрельба». Он остался в открытом доступе благодаря личному вмешательству главы Facebook Марка Цукерберга, хотя автоматизированная система модерирования присвоила ему 90 из 100 баллов (это означает, что контент с очень высокой степенью вероятности нарушает принципы Facebook).

Другая привилегия участников VIP-списка в том, что их контент анализируют реальные сотрудники, тогда как посты обычных пользователей изучают автоматизированные системы — алгоритмы фейсбука, часто допускающие ошибки и сбои, оспорить которые потом очень трудно.

Например, один аккаунт алгоритмы заблокировали за разжигание ненависти, хотя его хозяин пожаловался на белую краску, другой — за простое поздравление с днем рождения. В 2020-м египетский журналист Хосам Эль-Соккари раскритиковал мусульманских радикалов, но система решила, что он, наоборот, поддерживает экстремистов, и заблокировала его аккаунт. А недавно тренер футбольного клуба «Ротор» Дмитрий Хохлов подал в суд на Facebook за то, что соцсеть блокирует все посты с упоминанием его фамилии, потому что путает ее с оскорбительным прозвищем жителей Украины.

Сомнительные или вызывающие вопросы посты VIP-пользователей всегда изучают живые люди и в индивидуальном порядке. И даже при таком подходе политики, актеры и спортсмены часто получают возможность распространять информацию, за которую обычных пользователей мгновенно удаляют. 

В чем еще обвиняют Facebook

Неравенство пользователей далеко не единственная претензия к фейсбуку и инстаграму. Руководители компании, включая Марка Цукерберга, неоднократно выступали на тему того, что поиск новых друзей и общение на интересные темы помогают людям справиться с психологическими трудностями. Однако, по данным The Wall Street Journal, начальство Facebook отлично осведомлено о том, что на самом деле их соцсети оказывают на подростков негативное влияние и заставляют их чувствовать себя хуже. Акцент на «идеальных» телах и красивой жизни заставляет подростков сравнивать себя с кумирами и знакомыми в инстаграме, провоцирует комплексы, проблемы с душевным здоровьем и расстройства пищевого поведения.

Аналитики Facebook выяснили, что излишняя сексуализация пользователей и негласное соревнование в лайках и просмотрах приводят к тому, что многие пользователи чувствуют себя недостаточно популярными и поэтому испытывают тревожность. В 2020-м исследователи компании установили, что 40% юношей испытывают негативные последствия социального сравнения из-за инстаграма, а 32% девочек-подростков, которые вообще критично относились к своему телу, почувствовали себя еще хуже, после того как начали пользоваться соцсетью. Как минимизировать такие последствия от пользования своим продуктом, в Facebook так и не придумали.

Еще один материал WSJ рассказывает о том, как фейсбук невольно продвигает жестокий контент и заведомо ложную информацию. В 2018 году Цукерберг объявил, что новый алгоритм соцсети сократит количество постороннего контента в индивидуальных лентах и поможет продуктивнее взаимодействовать с друзьями и родственниками. Но изменения вызвали ровно противоположный эффект: чтобы привлечь внимание пользователей, новостные и политические страницы сделали ставку на сенсационный и вирусный контент, и его в лентах стало даже больше. А сама трансформация ленты привела к росту количества оскорблений, проявлений агрессии и призывов к насилию.

Например, согласно новой политике, фейсбук начал активнее распространять в лентах контент, который собирает больше «осмысленных социальных реакций». На практике это означает, что стандартные лайки способствуют продвижению постов меньше, чем раздраженный или злой эмодзи. Невинное семейное фото в основном собирает именно стандартные лайки, и алгоритм фейсбука продвигает его в ленте не так активно, как пост с противоречивым или неоднозначным мнением, который вызывает негативные отклики.

Таким образом, изначальная идея установить более личные взаимодействия между пользователями обернулась провалом: люди стали чаще видеть в ленте контент, который их возмущает, и чаще начали оскорблять друг друга. При этом проявления агрессии запускают цепную реакцию: чем больше злых эмодзи или комментариев с пожеланиями смерти появляется под публикацией, тем активнее алгоритм ее продвигает, что вызывает новую волну оскорблений и травли.

Еще одно слабое место соцсети, по мнению авторов WSJ, заключается в том, что ее модераторы не способны контролировать криминальную деятельность среди неанглоязычных пользователей. Расследователи утверждают, что слабая модерация постов за пределами США, Великобритании и Канады привела к тому, что фейсбук превратился в виртуальный офис для преступных организаций — от мексиканских наркокартелей до торговцев людьми из Азии. У компании просто нет достаточного количества компетентных иностранных администраторов, чтобы контролировать и удалять нелегальный контент.

По данным WSJ, в самых разных странах, от Эстонии до Эфиопии, группировки радикалов, националистов и экстремистов используют фейсбук как площадку для разжигания ненависти. Например, в провластных эфиопских группах открыто призывают к насилию в отношении этнического меньшинства тиграи, представителей которого называют «раком» и «гиенами» и предлагают уничтожить. Из-за недостаточно профессиональной работы с данными такие посты становятся вирусными и долгое время появляются в лентах тысяч пользователей, прежде чем их удаляют.

Другой скандальный случай — кампания против проживающего в Мьянме народа рохинджа. В августе 2018 года в фейсбуке нашли более тысячи постов, комментариев и роликов с проявлениями ненависти против мусульман, которых исповедующие буддизм соотечественники призывают гнать из Мьянмы, называя свиньями и собаками. Журналисты Reuters писали, что такое попустительство соцсети объясняется весьма прозаически: до 2015 года у Facebook был всего один модератор, владеющий бирманским языком. Позже их количество выросло до четырех и только недавно — до 60.

Наконец, Facebook оказался просто не в состоянии справиться с потоком антипрививочников — несмотря на желание Цукерберга использовать соцсеть для популяризации вакцин против ковида. В июле этого года президент США Джо Байден обвинил компанию в недостаточно активном сопротивлении распространителям теорий заговора. По данным WSJ, представителям соцсети хорошо известно о масштабе распространения фейков и теорий заговора в их соцсетях, но руководство не предложило никаких эффективных мер по борьбе с ними. Еще весной 2021 года выяснилось, что 41% англоязычных постов о коронавирусе в Facebook на самом деле дискредитируют вакцинацию, а всего пользователи видят в ленте посты антиваксеров 775 миллионов раз в сутки.

Как реагирует на эти обвинения Facebook?

По информации WSJ, высокопоставленные сотрудники Facebook обеспокоены тем, что корпорация достигла слишком больших масштабов, из-за чего ее почти невозможно контролировать.

Но публично руководители соцсети не признали ни одного из выдвинутых в ее адрес обвинений. Вице-президент Facebook по международным делам и связям с общественностью Ник Клегг и вовсе заявил, что в основе так называемого «Досье Facebook» лежит ложное предположение, будто компания сознательно игнорирует результаты собственных исследований. Пока что Facebook не анонсировал никаких реформ и не представил обновленных гайдлайнов, которые учитывали бы отмеченные журналистами недостатки.

Авторы разоблачительных материалов уверены, что Facebook недостаточно работает с имеющимися данными, чтобы обезопасить пользователей и создать для них комфортное пространство. Представители компании уверяют, что делают все возможное, но иногда физически не могут уследить за более чем двумя с половиной миллиардами аккаунтов в своих соцсетях.

Проблема стремительно переходит из публичного пространства в правовую сферу — спустя несколько дней после публикации материалов федеральный суд потребовал от руководства соцсети обнародовать материалы об удаленных постах с призывами к насилию против рохинджа.