Цього тижня МАРК ЦУКЕРБЕРГ ОГОЛОСИВ про низку змін у підході Meta до питань виступу та модерації, що є частиною його давніх зусиль домінувати в інформаційному просторі, водночас опираючись відповідальності за внесок його компанії в політичне насильство, екстремізм та іншу антидемократичну діяльність у Сполучених Штатах та США. по всьому світу. Поговоримо про найсерйозніші наслідки.
Дві ключові зміни полягають у тому, що Meta припинить перевірку фактів і відмінить модерацію вмісту. Відповідно до звітність від 404 Media, багато співробітників Meta були розгнівані та відчули, що ці зміни не дивилися на очі, оскільки не було внутрішньої політики та процесу залучення зацікавлених сторін, які керували рішенням. Це посилює враження, що це трохи більше, ніж quid pro quo з боку Цукерберга за те, що він домагався допомоги Трампа у протидії регуляторам. Весь спектр змін призведе до ще більшої ненависті та екстремізму, ігноруючи системні проблеми щодо того, як платформи Meta насправді завдають шкоди.
Важливо зазначити, що це не було раптовим «схиленням колін» перед Дональдом Трампом. Цукерберг має історію реагування на погрози з боку політиків, які мають повноваження накладати витрати на компанію. Я побачив цю тенденцію на власні очі, коли мене найняли у Facebook (нині Meta) у 2018 році, нібито для того, щоб очолити зусилля компанії щодо чесності виборів у політичній рекламі.
я запропонував план— розроблено та підтримується інженерами та менеджерами програм у всій компанії — щоб гарантувати, що ми не дозволяємо (і не отримуємо від них прибуток) реклами, яка потенційно бере участь у придушенні виборців. У нас були інструменти та можливості для захисту чесності виборів, що Цукерберг публічно пообіцяв зробити. Але це, ймовірно, означало б вжити заходів проти більшої кількості контенту від правих кандидатів, включаючи Трампа, тому що, як показало дослідження, праві брали участь у політична дезінформація в вищі ставки.
Цукерберг знав, що це обійдеться політичною ціною, тому він чітко дав зрозуміти, що не буде перевіряти факти про політичних кандидатів — навіть у платній рекламі, і навіть якщо ця реклама містила відверту брехню про голосування. І в 2020 році, після Трампа погрожували «закрити» соціальні мережі, оскільки Twitter перевірив його, Цукерберга пройшло на Fox News оголосити, що він ще далі відступить від перевірки фактів.
Хоча програма перевірки фактів Meta ніколи не була досконалою, сторонні перевірячі фактів і політика модерації компанії принаймні докладали зусиль, щоб гарантувати, що брехня, теорії змови та навмисна дезінформація не поширюються безконтрольно на її платформах.
Тепер усе пропало. Останні зміни Meta матимуть далекосяжні наслідки для громадської безпеки та демократії. Ось три ключові моменти:
Зосередившись на перевірці фактів під фальшивим виглядом захисту свободи слова, Цукерберг заспокоював своїх найбільших правих критиків, водночас приховуючи набагато важливішу проблему: власну роль його компанії у розширенні, рекомендації та націлюванні контенту, який сприяв до екстремізм, протиправна діяльністьі навіть політичне насильство (наприклад, погроми рохінджа в М'янма або Повстання 6 січня у Сполучених Штатах).
Ці компанії — не просто нейтральні труби, по яких тече мова. Вони курують канал кожного користувача на основі алгоритмічного прийняття рішень і пріоритетів, встановлених власниками. Поки Цукерберг, Ілон Маск та інші великі власники соціальних медіа продовжують мати повну, безконтрольну владу налаштовувати свої алгоритми, щоб вирішувати, чиї голоси посилювати, чиї мовчати, який контент рекомендовано та як реклама націлена на нас, вони матиме неперевершений вплив на те, як ми взаємодіємо з інформацією та довіряємо їй, не несучи відповідальності за наслідки.
Ми не можемо ігнорувати докази. Дослідження від незалежні дослідники, групи громадянського суспільстваі Внутрішні дослідники Meta знову і знову показували, що контент, який пропагує ненависть, дезінформацію та екстремізм, перевершує більш збалансований, тонкий дискурс на основних платформах соціальних мереж. Це невипадково. Це результат алгоритмічного дизайну, який винагороджує залучення, незалежно від того, засноване це залучення на правді чи токсичності. Основна бізнес-модель Meta стимулює сенсаційність, і Цукерберг це знає. У пошуках більшої кількості кліків, лайків і розповсюджень компанія наділила необмеженою силою алгоритми, які часто віддають пріоритет провокаційному вмісту над усім, що може сприяти порозумінню чи конструктивній розмові. Винагорода від алгоритмічно збільшеної вірусності набагато важливіша, ніж будь-яка окрема публікація від окремого користувача, і саме тут має лежати відповідальність.
Перевірка фактів, хоч і важлива, ніколи не була ідеальним вирішенням цієї проблеми. Після того, як алгоритм посилить шкідливий вміст, перевірка фактів навряд чи охопить тих, на кого вміст уже вплинув, і не змінить чиюсь думку.
У той час як Цукерберг публічно говорив про припинення перевірки фактів, Мета також тихо скасувала кілька “Ненависний кодекс” політики, в тому числі захисні огорожі для ЛГБТК людей, кольорових людей, жінок, іммігрантів та інших захищених груп. Ми бачили реальні наслідки безконтрольного посилення групової ненависті у Facebook та Instagram, і я боюся, що це стане ще гіршим. Варто пам'ятати, що політики Meta розвивалися повільно з часомчасто після епізодів насильства в реальному світі, включаючи геноцидяка частково відстежується у Facebook. Екстремізм є на підйомі у всьому світі, і якщо Meta вітає вміст, сповнений ненависті, ідея про те, що екстремісти не використовуватимуть платформу для прискорення реального шкоди, є просто наївною.
Зміни Цукерберга задовольняють бажання Трампа в обмін на прохання захисту Трампа. Хоча корпорації вже давно намагаються заслужити прихильність урядів, раніше це робилося тихо. Справа в тому, що Цукерберг відкрито сказано те, що він заручається допомогою Трампа, щоб тиснути на глобальні регулятори, щоб вони не запроваджували свої власні закони у своїх країнах, має хвилювати кожного, хто дбає про глобальну демократію. Те, що раніше вважалося недемократичною поведінкою та відводилося в задимлені кімнати, тепер з гордістю оголошують самі дилери.
Трамп тиснув на Цукерберга, щоб він припинив програму, яка йому не подобалася, а в обмін на це Цукерберг використовує авторитарні пориви Трампа залякувати інші країни, щоб дозволити Meta безконтрольно працювати у світі. Це рішення не лише політично мотивоване; це небезпечно через ігнорування як суверенітету інших країн, так і глобального впливу платформ Meta. І все це робилося на очах.
МИ ПОВИННІ РОЗУМІТИ, ЩО ВІДБУВАЄТЬСЯ, якщо хочемо мати надію на виправлення курсу. Шлях вперед вимагає чогось набагато більш фундаментального, ніж переробка існуючих моделей для модерування вмісту: це вимагає радикального перегляду того, як Meta та інші платформи соціальних мереж розробляють свої алгоритми та отримують прибуток від використання даних своїх користувачів.
Ці компанії мають бути притягнуті до відповідальності не обов’язково за вміст, який вони розміщують, а за дизайн і вихідні рішення, які сприяють процвітанню шкідливого вмісту. Доки ми не розглянемо бізнес-модель, яка робить такі речі, як ненависть і екстремізм, прибутковими, ми продовжуватимемо спостерігати, як ці проблеми зростатимуть, як і шкода, завдана нашому суспільству.
І за відсутності будь-якого наміру з боку Цукерберга навіть спробувати скоригувати курс, громадськість має змінити свої відносини з цими компаніями. Нарешті ми повинні наполягати на прозорості того, як ці системи справді впливають на наше життя, і на певній формі відповідальності за те, як власні інструменти та бізнес-рішення цих компаній мають серйозні наслідки для громадської безпеки та демократії.
Яёль залізний стат є старшим науковим співробітником Cybersecurity for Democracy, який працює над політичними рішеннями щодо того, як соціальні медіа та алгоритми на основі ШІ впливають на політичний дискурс, екстремізм і демократію. Раніше вона була віце-президентом Антидифамаційної ліги (ADL), очолюючи її Центр технологій і суспільства. У 2018 році вона була глобальним керівником відділу чесності виборів у Facebook для політичної реклами, а раніше працювала дипломатом, офіцером розвідки та радником Білого дому. Домашня сторінка: YaelEisenstat.com.
