КАСІС, Франція — У той момент, коли її світ розвалився три роки тому, Стефані Містр знайшла свою 15-річну доньку Марі бездиханною в спальні, де вона вчинила самогубство.
«Я перейшла від світла до темряви за частку секунди», — сказала Містре, описуючи день у вересні 2021 року, який ознаменував початок її боротьби з TikTok, китайським відеододатком, який вона звинувачує в тому, що він довів її дочку до відчаю.
___
ПРИМІТКА РЕДАКТОРА — Ця історія містить обговорення самогубства. Якщо вам або комусь із ваших знайомих потрібна допомога, скористайтеся Національною службою порятунку для самогубств і кризових ситуацій США, зателефонувавши або надіславши текстове повідомлення на номер 988. Існує також онлайн-чат на 988lifeline.org. Гарячі лінії за межами США можна знайти за адресою www.iasp.info/suicidalthoughts.
___
Шукаючи телефон своєї доньки після її смерті, Містр виявила відео, які пропагують методи самогубства, навчальні посібники та коментарі, які заохочують користувачів вийти за рамки «простих спроб самогубства». Вона сказала, що алгоритм TikTok неодноразово надсилав такий контент її дочці.
“Це було промивання мізків”, – сказав Містр, який живе в Кассі, поблизу Марселя, на півдні Франції. «Вони нормалізували депресію та самоушкодження, перетворивши це на спотворене почуття причетності».
Тепер Містре та шість інших сімей подають до суду на TikTok France, звинувачуючи платформу в тому, що вона не модерує шкідливий контент і надає дітям небезпечний для життя матеріал. Із семи сімей дві втратили дитину.
Відповідаючи на запитання про позов, TikTok відповів, що його правила забороняють будь-яку пропаганду самогубств і що для видалення небезпечних публікацій у ньому працюють 40 000 фахівців із довіри та безпеки по всьому світу, сотні з яких є франкомовними модераторами. Компанія також повідомила, що направляє користувачів, які шукають відео про самогубство, до служб психічного здоров’я.
Перед тим, як покінчити з собою, Марі Ле Тік зняла кілька відео, щоб пояснити своє рішення, згадуючи різні життєві труднощі та цитуючи пісню популярної в TikTok емо-реп-групи Suicideboys із Луїзіани.
Її мати також стверджує, що її дочка неодноразово зазнавала знущань і переслідувань у школі та в Інтернеті. Окрім позову, 51-річна мати та її чоловік подали позов проти п’ятьох однокласників Марі та її колишньої середньої школи.
Найбільше Містре звинувачує TikTok, кажучи, що віддати програму «в руки чуйного та чуйного підлітка, який не знає, що правда, а що ні, це як бомба, що цокає».
Вчені не встановили чіткого зв’язку між соціальними мережами та проблемами психічного здоров’я чи психологічною шкодою, сказав Грегуар Борст, професор психології та когнітивної нейронауки в університеті Париж-Сіте.
«Дуже важко показати чіткі причинно-наслідкові зв’язки в цій сфері», – сказав Борст, посилаючись на провідне рецензоване дослідження, яке показало, що лише 0,4 відсотка відмінностей у добробуті підлітків можна пояснити використанням соціальних мереж.
Крім того, Борст зазначив, що жодні поточні дослідження не вказують на те, що TikTok є більш шкідливим, ніж конкурентні програми, такі як Snapchat, X, Facebook або Instagram.
Хоча більшість підлітків користуються соціальними медіа без суттєвої шкоди, справжня небезпека, за словами Борста, полягає в тих, хто вже стикається з такими проблемами, як знущання чи нестабільність у сім’ї.
«Коли підлітки вже погано себе почувають і проводять час під впливом спотворених образів або шкідливих соціальних порівнянь», це може погіршити їхній психічний стан, сказав Борст.
Адвокат Лор Бутрон-Марміон, яка представляє інтереси семи сімей, які подають до суду на TikTok, заявила, що їхня справа базується на «численних доказах». Компанія «більше не може ховатися за заявою, що це не їхня відповідальність, оскільки вони не створюють контент», — сказав Бутрон-Марміон.
У позові стверджується, що алгоритм TikTok розроблений для того, щоб захопити вразливих користувачів у цикли відчаю заради прибутку та вимагати відшкодування збитків для сімей.
«Їхня стратегія підступна», — сказав Містре. «Вони спонукають дітей до депресивного контенту, щоб утримати їх на платформі, перетворюючи їх на прибуткові продукти для повторного залучення».
Бутрон-Марміон зазначив, що китайська версія TikTok, Douyin, має набагато суворіший контроль контенту для молодих користувачів. Він включає обов’язковий «молодіжний режим» для користувачів віком до 14 років, який обмежує час перед екраном до 40 хвилин на день і пропонує лише схвалений контент.
«Це доводить, що вони можуть модерувати контент, коли захочуть», — сказав Бутрон-Марміон. «Відсутність цих гарантій тут показова».
У доповіді під назвою «Діти та екрани», підготовленій у квітні президентом Франції Еммануелем Макроном і в якій взяв участь Борст, зроблено висновок, що певні алгоритмічні функції слід розглядати як залежні та заборонені для будь-яких програм у Франції. У звіті також міститься заклик обмежити доступ до соціальних мереж для неповнолітніх у віці до 15 років у Франції. Жодних заходів не вжито.
TikTok, який був закритий у США, поки президент Дональд Трамп не скасував заборону, також потрапив під пильну увагу в усьому світі.
Подібні юридичні зусилля з боку батьків були в США. Позов в окрузі Лос-Анджелес звинувачує Meta та її платформи Instagram і Facebook, а також Snapchat і TikTok у розробці дефектних продуктів, які завдають серйозних травм. У позові йдеться про трьох підлітків, які покінчили життя самогубством. В іншій скарзі дві племінні нації звинувачують великі компанії соціальних медіа, включаючи власника YouTube Alphabet, у сприянні високому рівню самогубств серед корінної молоді.
Генеральний директор Meta Марк Цукерберг вибачився перед батьками, які втратили дітей під час свідчень минулого року перед Сенатом США.
У грудні Австралія запровадила революційний закон, який забороняє облікові записи в соціальних мережах для дітей до 16 років.
У Франції Boutron-Marmion очікує, що TikTok Limited Technologies, дочірня компанія ByteDance в Європейському Союзі, китайська компанія, яка володіє TikTok, відповість на звинувачення в першому кварталі 2025 року. Пізніше влада вирішить, чи буде проведено тестування. .
На зв’язок з Associated Press TikTok сказав, що не був повідомлений про французький позов, який був поданий у листопаді. За словами Бутрона-Марміона, на обробку скарги судовою системою Франції та розгляд скарги, а владі Ірландії, де розташована європейська штаб-квартира TikTok, — можуть знадобитися місяці.
Натомість представник Tiktok підкреслив принципи компанії, які забороняють контент, який пропагує самогубство або самоушкодження.
Критики стверджують, що заява TikTok про надійну модерацію не відповідає вимогам.
Імран Ахмед, генеральний директор Центру боротьби з цифровою ненавистю, відкинув заяву TikTok про те, що понад 98,8% шкідливих відео було позначено та видалено з квітня по червень.
Коли його запитали про сліпі зони їхньої модерації, платформи соціальних мереж стверджують, що користувачі можуть обійти виявлення, використовуючи неоднозначну мову або натяки, які алгоритмам важко вловити, сказав Ахмед.
Термін «algospeak» був створений для опису таких прийомів, як використання емодзі зебри чи броненосця, щоб говорити про те, що ви порізалися, або емодзі швейцарського прапора як натяк на самогубство.
Такі кодові слова “не дуже складні”, сказав Ахмед. «Єдина причина, чому TikTok не може знайти їх, коли це можуть зробити незалежні дослідники, журналісти та інші, полягає в тому, що вони недостатньо ретельно шукають», — сказав Ахмед.
Організація Ахмеда провела дослідження в 2022 році, моделюючи досвід 13-річної дівчинки в TikTok.
«Протягом 2,5 хвилин в облікових записах з’явився контент про самоушкодження», — сказав Ахмед. «Через вісім хвилин вони побачили вміст про розлад харчової поведінки. В середньому кожні 39 секунд алгоритм надсилав шкідливий матеріал».
Алгоритм «знає, що контент про розлад харчової поведінки та самоушкодження викликає особливу залежність» у молодих дівчат.
Для Містре боротьба глибоко особиста. Сидячи в кімнаті своєї доньки, де вона не торкалася останні три роки, вона сказала, що батьки повинні знати про небезпеку соціальних мереж.
Якби вона знала про вміст, який надсилається її доньці, вона б ніколи не допустила її до TikTok, сказала вона. Її голос тріскається, коли вона описує Марі як «сонячного, смішного» підлітка, який мріяв стати юристом.
“В пам’ять про Марі, я буду боротися, поки в мене будуть сили”, – сказав він. «Батьки повинні знати правду. Нам потрібно протистояти цим платформам і вимагати відповідальності».
___
Автори Associated Press Халелуя Хадеро та Дзен Су зробили свій внесок у цю історію.
