Instagram, Pinterest Navrhovaný obsah způsobil smrt

Algoritmus Smrt: Když míříme k pohlcujícímu životu v Metavesmíru, křičí alarmy. Technické společnosti potřebují dát své algoritmy do pořádku, jinak by to pro některé mohla být riskantní budoucnost.

I když ještě nejsme u Web3, problémy s Web2 jsou stále neuvěřitelně znepokojivé. Zatímco algoritmy vytvořené velkou technologií mohou být pro společnost dobré předvídat zločin předem, jsou další, které jsou totální katastrofou.

Koroner Andrew Walker označil za příčinu smrti 14leté Molly Rose Russellové sebepoškozování. Řekl, že to bylo způsobeno depresí a negativním dopadem online obsahu.

Chodec řekl že „nebylo by pro nás bezpečné uznat sebevraždu jako příčinu smrti“.

Algoritmus smrti: Instagram a Pinterest

Expert uvedl, že Instagram a Pinterest používaly algoritmy, které vybíraly a sdílely nevhodný obsah se studentkou, aniž by o informace žádala. Walker uvádí: "Některý obsah romantizoval sebepoškozování mladých lidí, zatímco jiný podporoval izolaci a znemožňoval probrat problém s lidmi, kteří by mohli pomoci."

Podle PoručníkRussell v roce 2,000 v předvečer své smrti uložila, lajkovala nebo zveřejnila více než 2017 příspěvků na Instagramu. Všechny byly spojovány se sebevraždou, depresí nebo sebepoškozováním. Dívka také zhlédla 138 filmů podobného charakteru. Mezi nimi byly epizody seriálu 13 Důvody proč pro osoby 15+ a 18+.

Dětský psychiatr během slyšení řekl, že poté, co analyzoval, co Russell sledoval krátce před její smrtí, nemohl týdny tvrdě spát.

„10 depresivních špendlíků, které se vám mohou líbit“

Na dívčině účtu na Pinterestu vyšetřovatelé našli stovky fotek sebepoškozování a sebevraždy. Ukázalo se také, že platforma rozesílala studentům e-maily s doporučením nevhodného obsahu. Některé z nich měly hlavičky s nápisem „10 depresivních špendlíků, které se vám mohou líbit“.

Je pravděpodobné, že materiál, který si prohlížela Molly, již trpící depresivní poruchou a náchylnou ke zraněním souvisejícím s věkem, na ni měl negativní vliv. Je také pravděpodobné, že k úmrtí dítěte přispěl více než minimálně.

Představitelé Meta a Pinterestu se omluvili a přiznali, že Russell narazil na platformách s obsahem, který by tam neměl být. Mluvčí Meta řekl: „Chceme, aby Instagram poskytoval pozitivní zkušenost všem, zejména teenagerům. Podrobně se podíváme na úplnou zprávu koronera, až ji doručí.“

Pinterest uvedl, že platformu neustále vylepšuje a je odhodlán zajistit zabezpečení pro všechny.

Jiné případy

Tik tak byla v květnu žalována kvůli údajným „smrtelným doporučením“ jejích algoritmů. V prosinci 2021 virtuální asistentka Amazonu Alexa navrhl smrtelnou výzvue na 10leté dítě.

Je to odvážný nový svět, ale také děsivý. Big tech nemůže být spokojený s budoucí rolí, kterou v tomto problému mají.

Máte co říct o smrti algoritmu nebo o něčem jiném? Napište nám nebo se zapojte do naší diskuze Telegramový kanál. Můžete nás také zastihnout Tik Tok, facebooknebo X.

Odmítnutí odpovědnosti

Veškeré informace obsažené na našich webových stránkách jsou publikovány v dobré víře a pouze pro obecné informační účely. Jakákoli akce, kterou čtenář provede na základě informací nalezených na našich webových stránkách, je výhradně na jeho vlastní riziko.