Оскільки Інтернет розширюється, зростає й проблема підтримки безпечного цифрового простору, а онлайн-платформи стикаються зі зростаючим тиском, щоб швидко виявляти та видаляти шкідливий вміст.
Незважаючи на значні інвестиції в штучний інтелект (AI) для автоматизації цього завдання, реальність така, що модератори контенту (CM) все ще несуть основний тягар цієї відповідальності. КМ, яких часто наймають сторонні компанії від імені основних платформ соціальних медіа, таких як Facebook, TikTok і Instagram, мають завдання переглядати та видаляти шкідливі онлайн-дописи, щоб захистити користувачів. Проте ця робота завдає їм значних збитків, і на них часто не звертають уваги.
Прихована боротьба модераторів контенту
Люди-модератори стикаються з унікальними проблемами у своїй повсякденній роботі. Їхні обов’язки варіюються від аналізу вмісту з образливою лексикою до тривожних образів насильства та експлуатації. Вони повинні приймати складні контекстуальні рішення, які вимагають співпереживання та розуміння, що коштує високої ціни, оскільки вони постійно стикаються з тривожним матеріалом.
Дослідження показали, що робота, пов’язана з тривалим впливом на страждання інших людей, може призвести до таких станів, як вторинний травматичний стрес, емоційне виснаження та психологічний стрес. Модерація контенту пов’язана з багатьма з цих ризиків, і багато КМ мають більший рівень проблем з психічним здоров’ям, таких як тривога, депресія та посттравматичний стресовий розлад.
Проблема ускладнюється напруженим середовищем модерації вмісту, оскільки модератори повинні приймати швидкі та серйозні рішення щодо вмісту, який може вплинути на безпеку мільйонів користувачів у всьому світі. КМ дотримуються політики, встановленої технологічними компаніями, щодо видалення шкідливого вмісту, що вимагає постійної концентрації та глибокого розуміння вказівок. Тиск призводить до емоційного виснаження, вигорання та загального відчуття апатії, і багато модераторів повідомляють, що почуваються недооціненими та ізольованими.
Знаковий випадок, пов’язаний із Facebook (нині Meta) у 2020 році, підкреслив реальність цього важкого робочого середовища. Facebook погодився виплатити 52 мільйони доларів компенсації модераторам, у яких розвинулися психічні захворювання через їх роботу. Справа, порушена колишнім модератором Селеною Сколою, підкреслила травматичну природу модерації контенту.
Чи може штучний інтелект вирішити цю проблему?
Незважаючи на серйозність цих психологічних проблем, індустрія все ще залежить від людей-модераторів. Хоча штучний інтелект пропонує надію як інструмент для модерації вмісту, його обмеження очевидні. Алгоритмам важко працювати з нюансованим вмістом, таким як сатира чи згадки про певну культуру, і вони можуть не помічати шкідливий матеріал або помилково позначати нешкідливі публікації. Тому людський нагляд залишається необхідним, незважаючи на ризики для психічного здоров’я.
Відповідальність онлайн-платформ
Зараз штучний інтелект не пропонує комплексного рішення, і тягар залишатиметься на людях-модераторах. Тому онлайн-платформи повинні зосередитися на взятті на себе більшої відповідальності за захист психічного здоров’я своєї команди модераторів.
Важливими кроками є надання адекватної підтримки психічного здоров’я, зменшення робочого навантаження та забезпечення справедливої компенсації.
Більша прозорість щодо умов роботи модераторів вмісту також покращить галузеві очікування та стандарти. Оскільки Інтернет продовжує покладатися на їхню працю, індустрія технологій має надавати пріоритет благополуччю КМ, щоб захистити Інтернет не за рахунок тих, хто його модерує.
«Людська вартість модерування шкідливого онлайн-контенту» була спочатку створена та опублікована Verdict, брендом, який належить GlobalData.
Інформація на цьому сайті була включена добросовісно лише для загальних інформаційних цілей. Це не є порадою, на яку ви повинні покладатися, і ми не надаємо жодних заяв, гарантій чи гарантій, явних чи неявних, щодо їх точності чи повноти. Ви повинні отримати професійну чи спеціалізовану консультацію, перш ніж вживати або утримуватися від будь-яких дій на основі вмісту нашого сайту.
