Instagram po novom upozorní rodičov na rizikové vyhľadávania ich detí

Instagram v nadväznosti na sériu kritiky, vyšetrovaní a súdnych sporov spojených s ochranou mladistvých prichádza s ďalším nástrojom, ktorý má posilniť úlohu rodičov v online svete ich detí.

Sociálna sieť najnovšie umožní rodičom podchytiť moment, kedy ich deti začnú vyhľadávať témy súvisiace so sebapoškodzovaním a samovraždou.

Spoločnosť Meta v najnovšej aktualizácii svojej platformy uviedla, že po novom začne rodičov upozorňovať, ak ich tínedžer začne na sociálnej sieti Instagram opakovane vyhľadávať výrazy spojené so sebapoškodzovaním alebo samovraždou. Novinka bude fungovať v rámci rodičovského dohľadu najskôr v Spojených štátoch, Spojenom kráľovstve, Austrálii a v Kanade. Do ďalších krajín sa má rozšíriť neskôr v priebehu roka.

Nový systém upozornení má reagovať iba na opakované pokusy o vyhľadávanie problematických výrazov v krátkom časovom úseku. Meta tvrdí, že nechce rodičov zahlcovať každým jednorazovým dotazom, ale zachytiť situácie, ktoré môžu naznačovať hlbší problém. Medzi sledované výrazy patria frázy propagujúce samovraždu alebo sebapoškodzovanie, formulácie naznačujúce úmysel ublížiť si, alebo aj všeobecné pojmy, ako „suicide“ (samovražda) či „self-harm“ (sebapoškodzovanie).

Ak systém vyhodnotí správanie ako rizikové, rodič dostane upozornenie e-mailom, SMS správou alebo cez WhatsApp, podľa toho, aké kontaktné údaje má platforma k dispozícii. Informácia sa zobrazí aj priamo v aplikácii. Po otvorení notifikácie rodič uvidí vysvetlenie, že jeho dieťa v krátkom čase opakovane hľadalo obsah súvisiaci so sebapoškodzovaním alebo samovraždou. Súčasťou správy budú aj odkazy na odborné zdroje, ktoré majú pomôcť pri citlivom rozhovore s tínedžerom.

Meta zároveň zdôrazňuje, že väčšina tínedžerov takýto obsah nevyhľadáva. Ak sa o to pokúsia, Instagram podľa svojich pravidiel vyhľadávanie blokuje a namiesto výsledkov zobrazuje kontakty na pomocné linky a organizácie poskytujúce podporu. Platforma má tiež prísne pravidlá proti obsahu, ktorý samovraždu alebo sebapoškodzovanie propaguje či glorifikuje. Príspevky, v ktorých používatelia hovoria o vlastných skúsenostiach, síce úplne nemaže, no mladistvým ich štandardne nezobrazuje, ani keď pochádzajú od účtov, ktoré sledujú.

Firma hovorí, že pri nastavovaní prahovej hodnoty pre spustenie upozornenia analyzovala správanie používateľov a konzultovala postup s odborníkmi zo svojej poradnej skupiny pre oblasť samovrážd a sebapoškodzovania. Cieľom je nájsť rovnováhu medzi včasnou reakciou a zbytočným vyvolávaním paniky. Meta pripúšťa, že systém môže niekedy upozorniť aj v prípadoch, keď nejde o reálne riziko, no považuje to za prijateľný kompromis.

Oznámenie prichádza v čase, keď je Instagram pod dlhodobým tlakom verejnosti aj zákonodarcov. Generálny riaditeľ Meta Mark Zuckerberg čelil v posledných mesiacoch výsluchom v americkom Senáte aj na súde v súvislosti s tvrdeniami, že obsah na platforme mohol prispieť k sebapoškodzovaniu mladistvých. Zuckerberg priznal, že si želal, aby firma niektoré ochranné mechanizmy zaviedla skôr.

Instagram do budúcnosti plánuje podobný princíp upozornení rozšíriť aj na interakcie tínedžerov s umelou inteligenciou. Meta uvádza, že mladí ľudia sa čoraz častejšie pri hľadaní podpory obracajú na AI. Pripravované riešenie by malo rodičov informovať aj v prípade, že sa ich dieťa pokúsi viesť s AI konverzácie týkajúce sa samovraždy alebo sebapoškodzovania. Podrobnosti má firma zverejniť v najbližších mesiacoch.