Цей коментар спочатку опублікував Calmatters. Підпишіться на їхні розсилки.

Незалежно від дизайну чи тихого подання до швидко розвивається цифрового ландшафту, найбільші світові компанії соціальних медіа дозволили своїм платформам стати фабриками дивізії, дегуманізації та, все частіше, насильством у реальному світі.

Те, що почалося як інструменти для з'єднання, стали двигунами люті. Це не випадково. Це бізнес.

В основі цієї трансформації лежить алгоритм залучення: начебто нейтральний механізм, який курирує те, що мільярди людей бачать, наприклад, діляться та вірять.

Алгоритми не є нейтральними. Вони розроблені з однією метою – щоб ми тривали нас на платформі, натиснути, коментувати та прокручувати. У гонці, щоб привернути увагу, один емоційний тригер перевершує інші: гнів.

Обурення поширюється швидше, ніж факти. Повідомлення, які запалені генерують більше залучення, ніж ті, що інформують. Алгоритм не байдуже, чи є публікація розбіжна чи шкідлива – лише те, що ви не можете відвести погляд. Результатом є економіка уваги, де найвигідніший зміст часто є найбільш токсичним.

Це не теоретична проблема. Ми бачимо наслідки щодня, як онлайн -домагання та мовлення ненависті, метастазуються в офлайн -напади.

SB 771 притягуватиме до відповідальності компанії соціальних медіа

Захід, який зараз чекає підписання уряду Гевіна Ньюсома, законопроекту 771 Сенату, є життєво важливим кроком до більш безпечної та більш цивільної цифрової арени. Законопроект надасть каліфорнійцям можливість притягнути до відповідальності найбільші корпорації соціальних медіа, коли їхні алгоритми істотно сприяють порушенню громадянських прав відповідно до законодавства Каліфорнії.

Компанії соціальних медіа можуть протестувати, що вони ніколи не ставляться до радикалізувати користувачів або отримати прибуток від поляризації. Це може бути правдою. Але наміри – це не міра підзвітності. І їхня відмова активно запобігти цим результатам означає співучасть.

Розглянемо кілька прикладів: внутрішні дослідження Facebook підтвердили, що його алгоритм сприяє розбіжному вмісту, оскільки обурення клацає, а в М'янмі його недбалість при модеруючих підбурюваннях проти меншин Рохінджі допомогла підживити кампанію етнічного очищення. X, раніше відомий як Twitter, визнав, що мова ненависті зросла після змін у своєму модерації вмісту. У Лос -Анджелесі та Нью -Йорку антисемітські хештеги в Інтернеті передували нападам на єврейські установи.

Точки вже не важко підключитися. Інтернет -ненависть паливо в режимі офлайн.

Якщо підписатись, SB 771 не встановив би мовні коди. Це не покарала б вільного вираження. Це забезпечило б, щоб платформи стикалися з наслідками, коли їх ділова практика посилює домагання, загрози чи дискримінацію вже незаконні відповідно до державного законодавства.

Це вузьке, але істотне втручання. Подібно до того, як закони про відповідальність за продукцію несуть виробників автомобілів, відповідальні за несправні подушки безпеки та фармацевтичні компанії, відповідальні за небезпечні наркотики, так і ми повинні притягувати компанії соціальних медіа, відповідальні за передбачувану шкоду, заподіяну дефектами, вбудованими в їх основні бізнес -моделі.

Каліфорнія очолила націю у створенні огородження для галузей, що формують наше життя, від безпеки споживчих товарів до захисту навколишнього середовища. Цей законопроект слідував би за цією традицією.

Антисемітизм наростає

Ставки високі. У графстві Лос -Анджелес минулого року антисемітські злочини зросли на 91%, тоді як злочини ненависті, спрямовані на ЛГБТК+ та громади іммігрантів, досягають рекордних максимумів. Вчителі повідомляють, що знущання та знущання поширилися через аудиторії зі швидкістю тенденції. А батьки знаходять своїх дітей радикалізуються екстремістським змістом, який алгоритми підштовхують у свої канали.

Йдеться не про політику. Захист від ненависті повинна перевернути ідеологію. Йдеться про те, чи каліфорнійці звертаються, коли ненависть стає шкодою. Вчителі, батьки, лідери віри – Каліфорнці кожного походження мають частку в цій боротьбі.

Уявіть, що ввійдіть завтра в цифрові простори, де ненависть відкладається дизайном, а не нагороджена охопленням, де алгоритми вирівняні з гідністю людини замість нелюдської люті.

За допомогою SB 771 Каліфорнія може встановити цей прецедент. Newsom може надіслати чітке повідомлення: безпека та громадянські права каліфорнійців мають перевагу над суттю Силіконової долини.

Ця стаття була спочатку опублікована на Calmatters і була перевидана за ліцензією Creative Commons Attribution-Noncommercial-Noderivative.