Компанія не відповіла на запити про коментарі до цієї історії.

Смерть Кірка підштовхнула Комітет з питань будинку США, щоб викликати керівників Discord, Steam, Twitch та Reddit, щоб свідчити про роль, яку можуть відігравати їхні платформи в радикалізації своїх користувачів.

“Конгрес зобов’язаний контролювати онлайн -платформи, які радикали використовували для просування політичного насильства”, – заявив голова комітету Джеймс Комер, оголосивши про жовтневе слухання. Розбрат заявив, що “вітає можливість свідчити” і що він зобов’язаний взаємодіяти з розробниками політики.

Цей трубопровід в Інтернеті-офлайн не є гіпотетичним.

Інститут стратегічного діалогу, можливо, провідний у світі аналітичний центр щодо боротьби з екстремізмом в Інтернеті, нещодавно опублікував звіт Молоді гармати: розуміння нового покоління екстремістської радикалізації. Він малює картину переміщення ландшафту: молоді люди все частіше приходять до екстремізму не через ідеологічні брошури чи офіційний набір, а через культуру мем, гумор, ігрові спільноти, невеликі приватні чати та алгоритмічно опосередковані ехо -камери.

Навантаження

У звіті було встановлено, що вплив екстремістського вмісту, коли вони доставляються в глянсові “мемефіковані” пакети в поєднанні з реальною або сприйнятою соціальною ізоляцією, невизначеністю ідентичності або порушенням офлайн, можуть поступово нормалізувати екстремістську риторику та символи.

Більшість ніколи не роблять більше, ніж публікації чи коментарів. Але крихітна меншина посилюється. І, схоже, Робінсон був одним із них.

У 2021 році Discord повідомив про заборону понад 2000 екстремістських спільнот за шестимісячний період, включаючи ті, що пов'язані з рухом “бугалу” та змовою Канона, після виявлення підвищення насильницької активності в США. Багато форумів також були вилучені після прямої участі в таких випадках, як Капітолійська бунт США, в яких бунтери широко спілкувались на серверах розбратів до та під час нападу.

В Австралії останні гучні операції показують екстремістських рекрутерів, спрямованих на молодих геймерів, створюючи цифрові рекреації терористичних подій та висіваючи крайній правий вміст в таких іграх Фортніт і Minecraftпотім сприяє цим ідеологій у розбратах та більш широких соціальних медіа. Спільнота розвідувальної спільноти «П'ять очей» опублікувала спільний звіт у грудні 2024 р. Попередження про те, що молодіжна радикалізація через онлайн -платформи зростає тривожними темпами.

Проблема є суворою: кожен випадок австралійського контртерора в 2024 році стосувався неповнолітнього або молодого дорослого, повідомляє ASIO.

Неонацистські групи, такі як Національна соціалістична мережа, також використовували телеграму та зашифровані чати для набору в Мельбурні та Сіднеї. Начальник ASIO Майк Берджесс неодноразово говорив, що “крайні праві групи” використовують онлайн-платформи для набору підлітків.

Шутер Крайстчерча – австралійця – був радикалізований в Інтернеті та передав свою різанину у Facebook.

Це в прямому ефірі масове вбивство призвело до заклику Крайстчерча, співпраці між урядами та технологічною індустрією, розробленою для того, щоб усунути екстремістський контент координовано.

Через шість років зрозуміло, що ці зусилля не спрацювали. Відео про вбивство Чарлі Кірка породило мільйони переглядів на YouTube, X, Instagram та інших платформах, тоді як Тайлер Робінсон, здається, є останнім передбачуваним вбивцею, який вийшов із світу “смертельно в Інтернеті”.

Метт Куїн знає цей світ зсередини: він колись був лідером білого верховенства в Західному Сіднеї. У підлітковому віці він носив лозили, вів банди і почав сприймати екстремістську ідеологію, перш ніж врешті -решт відтягуватися. Зараз він веде Exit, програму дерадікалізації, яка допомагає молодим людям залишати крайні праві мережі.

За його словами, крайні праві рекрутери використовують будь-які платформи, які найпопулярніші серед молоді-Tiktok, Reddit, Discord-і що схема гумору, мемів та жартів може призвести до невеликих актів участі перед поступовою ескалацією.

Підлітки стають корисними підсилювачами, оскільки вони цифрово кмітливі, соціально вільні та здатні поєднуватися з молодіжною культурою таким чином, як старші організатори не можуть.

Андре Оллер, виконавчий директор Інституту запобігання ненависті до Мельбурна, описує онлайн-радикалізацію як поєднання людських та технологічних сил: “Люди потрапляють у громади, ехо-камери, де претензії можуть бути чи не можуть бути правдивими, і вони звикли до того, щоб розбирати емоції. Люди знаходять належність, і це відскакує один від одного, колись більше і більше екстремальних”.

Він вказує на приклад нібито вбивці Чарлі Кірка: одна сторона стверджує, що він був радикальним лівим, інша сторона стверджує, що він знаходився в правій частині, і кожна група має власну розповідь, що призводить до подальшої поляризації.

Алгоритми подають цей цикл, підштовхуючи користувачів до вмісту, який підтверджує їх світогляд, фільтруючи не погоджуючі погляди.

“Зростає відсутність віри в уряди, в системі, і в законах, що люди відчувають, що вони можуть просто взяти закон у свої руки. Я думаю, що це починається як почуття в Інтернеті” Я можу зробити те, що мені подобається “, і тоді деякі з них переносять у реальний світ, де це перетворюється на насильство”, – говорить Оллер.

Оллер каже, що уповноважений Австралії в цьому просторі виконує позитивну роботу, але що йому потрібно більше ресурсів. “Потрібно бути заступником уповноваженого або когось, хто спеціально займається цими питаннями екстремізму та мови ненависті в Інтернеті”, – говорить він.

Шарлотта Мортлок, засновниця мережі Hilma в Австралії, групи, яка зосереджується на низовому наборі жінок у Ліберальну партію, каже, що багато молодих австралійців усвідомлюють, що люди “не ненавидять один одного”, але що вони “провели цей крайній, радикальний і бойовий шлях заради прибутку брод”. Мережа Hilma проводила опитування з рішучістю, показуючи, що більшість молодих людей зараз “хочуть” алгоритмів соціальних медіа. Вони можуть відчути себе маніпулюючими, і вони хочуть більшої прозорості.

“Алгоритми – це напад на свободу слова. Вони цензуру, силос і поляризуються”, – каже вона.

Опитування є чітким на користь алгоритмічної прозорості: для того, щоб платформи були передовими щодо того, чому рекомендується певна частина вмісту, а для дослідників та регуляторів отримати доступ до перевірки того, як насправді поводяться алгоритми в дикій природі.

Зрозуміло, що, незважаючи на найкращі наміри, батьки, уряди, регулятори та самі платформи грають під назвою.

Рішення існують, але жоден не є простим. Куінн каже, що дерадікалізація найкраще працює, коли уникає прямого протистояння. “Не кидає виклик ідей людям, поки вони не почнуть кинути їм виклик самі”, – каже він, є ключовим. Тільки тоді психологи та консультанти можуть допомогти розкрити особисті травми чи кризи ідентичності, в яких притягнули людей.

Офлайн підтримує матерію, каже Куїнн. Дослідження послідовно показують, що радикалізація живиться самотністю та відключенням стільки ж, скільки ідеології.

Більша прозорість з технологічних платформ є ще одним рішенням: дослідникам та регуляторам все ще не вистачає значущого доступу до даних, що стоять за алгоритмами, залишаючи незалежні аудити майже неможливими. Прихильники кажуть, що заборона в соціальних мережах в Австралії, можливо, буде кроком до захисту молодих людей.

Австралія має одну чітку перевагу в реальному світі перед США, згідно з Оллер: Закони про зброю. “Основна відмінність між нами та США насправді полягає у доступі до зброї”, – говорить він. “Після Порт -Артура, викуп пістолета та обмеження зменшили вогнепальну зброю в громаді. Це вирішальний фактор, який робить Австралію безпечнішою, ніж США”.

Справа Робінсона все ще розслідується, і багато деталей залишаються мутними. Вже існує неминуча дискусія щодо того, чи Робінсон був “радикалізований розбрат”, чи ідеологія, психічне здоров'я чи скарги викликали його. Але менш дискусійним є інфраструктура – алгоритми, культура мем та приватні онлайн -простори – що дозволило радикалізацію бути можливим і потужним.

Навантаження

Для Мортлока, Квін та інших, вбивство Чарлі Кірк – це не просто трагедія смерті одного чоловіка – це ще один попереджувальний кадр, що необхідно регулювати платформи та алгоритми, а також більшу інвестицію в цифрову грамотність, добробут молоді та реальну спільноту. Тільки тоді можуть почати висвітлюватися і ослаблювати невидимі шляхи радикалізації.

Бізнес -інструктажний бюлетень розповідає про основні історії, ексклюзивне висвітлення та експертну думку. Зареєструйтесь, щоб отримати його кожного дня вранці.