Крупнейшие социальные сети сознательно допускали распространение более вредного контента в лентах пользователей — после того как внутренние исследования алгоритмов показали: возмущение и злость повышают вовлечённость аудитории. Об этом рассказали информаторы в документальном фильме BBC «Внутри машины ярости». Более десятка разоблачителей и инсайдеров описали, как компании шли на риски в сфере безопасности — в вопросах насилия, сексуального шантажа и терроризма, — стремясь удержать внимание пользователей.

Инженер компании Meta, которой принадлежат Facebook и Instagram, рассказал, что высшее руководство прямо указало ему разрешить появление в лентах более «пограничного» контента — включая мизогинию и теории заговора. Поводом послужило падение акций компании и необходимость конкурировать с TikTok. «Нам как бы дали понять, что это из-за снижения курса акций», — сказал инженер.

Старший исследователь Meta Мэтт Мотил сообщил, что Instagram Reels был запущен в 2020 году без достаточных мер предосторожности. Внутреннее исследование, с которым ознакомилась BBC, показало: в комментариях на Reels травля, домогательства, разжигание ненависти и призывы к насилию встречались значительно чаще, чем в других разделах платформы.

Сотрудник TikTok предоставил BBC редкий доступ к внутренним панелям с жалобами пользователей и другим внутренним материалам. По его словам, сотрудникам давалось указание отдавать приоритет обращениям, связанным с влиятельными политическими фигурами, — в ущерб многочисленным сообщениям о вредном контенте с участием детей. По утверждению информатора, подобные решения принимаются ради «поддержания крепких отношений» с политиками и защиты от угроз регулирования или запретов — но не из соображений безопасности пользователей.

Всё это разворачивается на фоне взрывного роста TikTok, чей алгоритм рекомендации коротких видео перевернул индустрию социальных сетей. Конкуренты оказались вынуждены в спешке адаптироваться — и, судя по свидетельствам информаторов, нередко жертвовали при этом безопасностью аудитории.