Nezletilí mohou použít nový nástroj NCMEC „Take It Down“ k označení explicitního materiálu o sobě, který byl – nebo si myslí, že bude – sdílen online.
Getty Images
Meta financuje národní úsilí, které má pomoci dětem a dospívajícím odstranit jejich nahé nebo sexuálně explicitní obrázky ze sociálních médií. Mohl by obří vlastní krok směrem k end-to-end šifrování překážet?
TNárodní centrum pro pohřešované a zneužívané děti spustilo platformu financovanou společností Meta, která má pomoci dětem a dospívajícím odstranit ze sociálních médií jejich nahé nebo sexuální fotografie a videa.
Nová služba pro nezletilé, tzv Take It Down, byl odhalen rok po vydání podobného nástroje pro dospělé známého jako StopNCII (zkratka pro nekonsensuální intimní snímky). Dnes bude Take It Down fungovat pouze na pěti platformách, které souhlasily s účastí: Facebook a Instagram vlastněný Meta, stejně jako Yubo, OnlyFans a Pornhub.
„Tento systém jsme vytvořili, protože mnoho dětí čelí těmto zoufalým situacím,“ řekla prezidentka a generální ředitelka NCMEC Michelle DeLaune. "Doufáme, že si děti uvědomí tuto službu a pocítí pocit úlevy, že existují nástroje, které jim pomohou obrázky odstranit."
To, jak společnosti sociálních médií chrání děti a dospívající – a kde selhávají – se v novém Kongresu ukázalo jako hlavní téma technologické politiky obou stran a kde mají zákonodárci největší šanci na schválení legislativy. Stále je před námi dlouhá cesta k jakýmkoli návrhům na vytvoření nebo posílení ochranných opatření, a protože se neblíží žádné zákony, NCMEC nadále působí jako most mezi online společnostmi a orgány činnými v trestním řízení v otázkách bezpečnosti dětí. V roce 2021 tato nezisková organizace obdržela na svých platformách téměř 30 milionů tipů z celého odvětví ohledně zjevného sexuálního vydírání a sexuálního zneužívání dětí. Většina byla hlášena platformami vlastněnými Meta.
Mohou využít nezletilí a rodiče Bezplatný anonymní nástroj NCMEC označit explicitní materiál nezletilé osoby, který byl – nebo si myslí, že bude – šířen online. Jakmile si na svém zařízení vyberou citlivé fotografie nebo videa, platforma vygeneruje ekvivalent digitálního otisku této fotografie (tzv. „hash“), který pak NCMEC sdílí se zúčastněnými stránkami sociálních médií, aby se mohli pokusit najít, omezit nebo odstranit a nadále tento obsah sledovat.
Podle NCMEC dotyčné fotografie nebo videa zejména neopouštějí zařízení a nikdo je neprohlíží. (Hash také udržuje oběti neidentifikovatelné jak pro NCMEC, tak pro aplikaci sociálních médií, signalizuje pouze to, že obrázek je škodlivý a měl by být odstraněn.) NCMEC uvedla, že nedošlo k žádnému známému porušení její hašovací databáze, která by mohla potenciálně odhalit identitu jednotlivce. .
Ale jednou z největších překážek tohoto úsilí je vzestup end-to-end šifrování. „Když technologické společnosti zavedou šifrování typu end-to-end bez zabudovaných preventivních opatření k odhalení známého materiálu týkajícího se sexuálního zneužívání dětí, dopad na bezpečnost dětí je zničující,“ řekl DeLaune, prezident NCMEC, na slyšení tento měsíc soudnímu výboru Senátu. . Slon v místnosti je finanční podporovatel a nejvýznamnější společnost zapojená do Take It Down, Meta pohybem klipu směrem k end-to-end šifrování na Instagramu i Messengeru.
Jak to mohou tyto dvě organizace sladit, je „otázka milionu dolarů,“ řekl viceprezident NCMEC Gavin Portnoy. Forbess tím, že NCMEC stále přesně neví, jaké jsou plány Meta pro šifrování a jaká mohou být zavedena ochranná opatření. (Meta uvedla, že se na nich pracuje a že na Instagramu a Messengeru se testují různé funkce šifrování.)
"Budujeme Take It Down pro způsob, jakým se dnes nachází internet a [poskytovatel elektronických služeb]," řekl Portnoy. „To je skutečně most, který budeme muset překonat, až lépe pochopíme, jak vypadá prostředí end-to-end šifrování [Meta] – a jestli existuje svět, kde Take It Down může fungovat.“
Řekla to globální šéfka bezpečnosti Meta Antigone Davisová Forbes že „šifrování povede k tomu, že některé obrázky nebudeme identifikovat“, ale že se stává průmyslovým standardem v zasílání zpráv, který je zásadní pro soukromí a bezpečnost uživatelů. Používání hašovací technologie a podpora NCMEC na projektech, jako je tento, patří mezi několik způsobů, jak se Meta snaží „skutečně řešit problém,“ řekla. (Obě strany odmítly sdělit, kolik peněz Meta dala NCMEC na vybudování Take It Down.)
"Neexistuje žádný všelék na řešení těchto problémů," řekl Davis v rozhovoru a popsal Metaův přístup jako "mnohostranný." Kromě spolupráce na tomto novém systému zaměřeném na maření sexuálního vydírání a nesouhlasného šíření intimních obrázků Meta neumožňuje dospělým cizincům spojit se s nezletilými prostřednictvím svých funkcí zasílání zpráv, řekla. Používá také klasifikátory, aby se zabránilo tomu, aby byly účty a obsah nezletilých odeslány dospělým uživatelům Meta, kteří projevili podezřelé chování online, dodala.
„Doufám, že lidé, kteří v mládí takto sdíleli obrázky kýmkoli – rodičem, který je vykořisťoval, jiným dospělým, který je vykořisťoval, bývalým přítelem nebo přítelkyní – budou mít zájem použijte tento nástroj,“ řekl Davis.
NCMEC uvedla, že některé navrhla 200 dalších poskytovatelů elektronických služeb které zaslaly informace na jeho „CyberTipline“ o připojení k programu Take It Down. Ještě se uvidí, kdo další – kromě malé hrstky hráčů na sociálních sítích, kteří to dnes prosazují – se dostane na palubu. Yubo ze své strany řekl, že doufá, že tito první uživatelé přinutí ostatní, aby se připojili.
„Ke zmírnění rizik a řešení problémů online je zapotřebí více než jen vládní intervence,“ uvedl generální ředitel Yubo Sacha Lazimi e-mailem. „Všichni herci musí hrát svou roli. … Spolupráce je klíčem k identifikaci řešení velkých výzev, takže doufáme, že se k iniciativě Take It Down připojí více platforem.“
Zdroj: https://www.forbes.com/sites/alexandralevine/2023/02/27/meta-ncmec-minors-take-it-down-ncii/