Платформа соціальних медіа X, раніше Twitter, відігравала центральну роль у поширенні помилкових розповідей та шкідливого змісту, який сприяв расистському насильству проти мусульманських та мігрантських громад у Великобританії, після трагічного вбивства трьох молодих дівчат у місті Саутпорт, Amnesty International встановила в технічному пояснювачі, яке було опубліковано сьогодні.
Технічний аналіз коду відкритого коду X (або загальнодоступного програмного забезпечення) виявляє, що його система рекомендацій (або алгоритми, що займаються вмістом,), яка керує сторінкою “для вас”, систематично надає пріоритет вмісту, який існує обуренням, провокує нагріті язички, реакції та залучення, без належних гарантій для запобігання або зменшення шкоди.
“Наш аналіз показує, що алгоритмічний дизайн та вибір політики X сприяло посиленим ризикам на тлі хвилі антимусульманського та антимігранта, що спостерігається у кількох місцях у Великобританії минулого року, і який продовжує представляти серйозний ризик прав людини сьогодні”
Пат де Брун, керівник великої технічної відповідальності в Amnesty International.
29 липня 2024 року три молоді дівчата-Еліс Дасільва Агіар, Бебі Кінг та Елсі Дот Станкомб-були вбиті, а 10 інших поранені 17-річним Акселем Рудакубаною. Протягом декількох годин нападу, дезінформація та неправди щодо ідентичності, релігії та імміграційного статусу злочинця затопили платформи соціальних медіа та були помітними на X.
Аналіз Amnesty International щодо алгоритму рекомендації X з відкритим кодом X виявив системний вибір дизайну, який сприяє спритному залученню щодо безпеки.
Алгоритмічна система ранжирування X, виявлена у власному вихідному коді X, опублікованому в березні 2023 року, виявляє, що неправди, незалежно від їх шкідливості, можуть бути надані пріоритет і швидше повернутися в терміни, ніж перевірена інформація. Модель “Важкого рангу” X-система машинного навчання, яка вирішує, які посади отримують пріоритет-пріоритет “розмови”-незалежно від природи вмісту. Поки після залучення після приводу алгоритм, схоже, не має механізму оцінки потенціалу для заподіяння шкоди – принаймні, поки достатньо користувачів самі повідомить про це. Ці дизайнерські особливості забезпечили родючу грунт для запальних расистських розповідей, щоб процвітати на X після нападу в Саузпорті.
Подальший аналіз системи також виявив вбудовані упередження посилення, що сприяють “преміальним” (раніше Blue) підтвердженим абонентам, повідомлення яких автоматично просуваються над повідомленнями звичайних користувачів. До того, як офіційні розповіді були поділені владою, помилкові заяви та ісламофобні розповіді про інцидент розпочали розповсюдження в соціальних мережах. Хештеги, такі як #Stabbing та #Enoughisenough, також були використані для поширення претензій, що помилково припускають, що зловмисник був мусульманським та/або шукачем притулку.
Рахунок на X під назвою “Вторгнення в Європу”, який, як відомо, публікує антиімігрантський та ісламофобний зміст, розміщений незабаром після того, як з'явився новини про напад, що підозрюваний “, як стверджується, є мусульманським іммігрантом”. Цей пост отримав понад чотири мільйони переглядів. Протягом 24 годин усі X, що припускають, що винуватцем був мусульманин, біженець, іноземний національний або прибув на човні, відстежувались, щоб за оцінками, 27 мільйонів вражень.
The Southport tragedy occurred in the context of major policy and personnel changes at X. Since Elon Musk's takeover in late 2022, X has laid off content moderation staff, reinstated previously banned accounts, disbanded Twitter's Trust and Safety advisory council, fired trust and safety engineers and restored numerous accounts which had been previously banned for hate or harassment, including that of Stephen Yaxley-Lennon, a far-right activist better known as Томмі Робінсон.
Запальні посади
Томмі Робінсон заявив своїм підписникам 840 000 X, що “більше доказів, які дозволяють припустити, що іслам є проблемою психічного здоров'я, а не релігією миру” ще більше розпалює ворожість проти мусульман.
Власник X Елон Маск, який має 140 мільйонів X підписників на своєму особистому рахунку – також зокрема посилив помилкові розповіді, які обмінювалися щодо нападу Саузпорт. 5 серпня 2024 року, коли бунти поширювались, він прокоментував відео, опубліковане Ешлі Сент Клер, сказавши, що “Громадянська війна неминуча”.
Прем'єр -міністр Великобританії Кейр Стармер втрутився, закликаючи захистити мусульман на тлі хвиль цільових нападів на мафії на мечеті, притулки для біженців та азіатські, чорні та мусульманські громади.
У відповідь Елон Маск публічно відповів: “Чи не слід турбуватися про напади *все* громади? ”
Аналіз Amnesty International показує, що за два тижні після нападу Саузпорт публікації Томмі Робінсона на X отримали понад 580 мільйонів переглядів – безпрецедентна охоплення фігури, забороненої на більшості основних платформ для порушення правил мови ненависті.
Ми написали до X, щоб поділитися нашими висновками у листі від 18 липня 2025 року та надали компанії можливість відповісти. Компанія не відповіла до моменту публікації.
Час підзвітності
Аналіз Amnesty International щодо вибору проектування та політики X викликає серйозні занепокоєння щодо того, як функціонує система рекомендацій платформи в кризових ситуаціях. Те, як система важить, ранги та збільшує вміст, зокрема, пости, які генерують нагріті відповіді або поділяються або створюються за допомогою “синіх” або “преміальних” облікових записів, може призвести до того, що шкідливий матеріал ділиться з більшою аудиторією.
«Без ефективних гарантій, ймовірність збільшення того, що запальні або ворожі посади отримають тягу в періоди посиленої соціальної напруги.
Погладити коричневий.
Там, де такий контент орієнтований на расові, релігійні та інші маргіналізовані групи, це може створити серйозні ризики з прав людини для членів цих груп. Невдача X запобігти або адекватно пом'якшити ці передбачувані ризики, що є невиконанням прав людини.
Незважаючи на те, що регуляторні рамки, такі як Закон про безпеку в Інтернеті (ОСА) та Закон про цифрові послуги ЄС (DSA), тепер встановлюють юридичні зобов’язання для платформ для оцінки та зменшення деяких системних ризиків, ці зобов'язання повинні бути надійно виконані. Вибір дизайну X та непрозорі практики продовжують становити ризики з прав людини, які вимагають більшої підзвітності, а не лише ретельно.
Amnesty International закликає до ефективного регуляторного виконання та надійних заходів підзвітності для подолання системних шкоди, створених вибором дизайну X. Уряд Великобританії також повинен вирішити прогалини, що залишилися в поточному режимі безпеки в Інтернеті, щоб утримувати платформи, такі як X, відповідальність за більш широкі шкоди, спричинені їх алгоритмами.
Передумови:
Британська влада відповіла на расистські заворушення в Саутпорті з низкою арештів, звинувачуючи людей, які використовували X та інші платформи для підбурювання насильства або поширення шкідливих неправди. Деякі злочинці отримали тюремні вироки за свої посади в соціальних мережах. У звіті парламенту Великобританії в липні 2025 р. Встановив, що бізнес -моделі соціальних медіа стимулювали розповсюдження дезінформації після вбивств Саузпорт.
