Treści samobójcze w sieci: klik i już. Eksperci chcą ustawowych zmian, by chronić dzieci

3 tygodni temu 20

Pojawianie się treści suicydalnych w telefonie pogarsza stan psychiczny dziecka i wzmacnia kryzys samobójczy - podkreślała Halszka Witkowska, wiceprezes Polskiego Towarzystwa Suicydologicznego
71 proc. młodzieży z trzecich klas szkoły ponadpodstawowej, która doświadczyła myśli samobójczych w ciągu ostatniego roku, była obrażana w mediach społecznościowych przez osoby znane ze szkoły
Prawie połowie nastolatków (45 proc.) w internecie wyświetlają się treści suicydalne, pomimo że ich nie poszukują
Eksperci zajmujący się zagadnieniem samobójstw przekonują, że konieczne jest wprowadzenie ustawowych wymogów dotyczących blokowania i usuwania z internetu treści suicydalnych

Treści suicydalne w internecie groźne dla dzieci i młodzieży

Prawie połowie uczniów (45 proc.), którzy w ciągu ostatniego roku mieli myśli samobójcze, w sieci wyświetlają się treści suicydalne, pomimo że ich nie poszukują.

- W mediach społecznościowych nastolatkowie są bombardowani wiadomościami w rodzaju: „jesteś głupia”, zabij się”, „jesteś śmieciem”, „jak odbierzesz sobie życie, to ulżysz swojej matce” - mówiła w Sejmie Halszka Witkowska, wiceprezes Polskiego Towarzystwa Suicydologicznego, podczas niedawnego posiedzenia Podkomisji stałej do spraw sztucznej inteligencji i przejrzystości algorytmów (CNT).

Te oraz inne ważne informacje przyniósł raport „Dobre i złe wiadomości - życie online i offline a zdrowie psychiczne polskich nastolatków", przygotowany przez fundację "Dbam o Mój Zasięg" we współpracy z Bankiem Gospodarstwa Krajowego. Został opracowany w oparciu o wyniki badania, które objęło blisko 2 tysiące uczniów z klas siódmych szkół podstawowych oraz klas trzecich szkół średnich.

- W sytuacji, kiedy intensyfikują się myśli samobójcze lub plany samobójcze, pojawianie się treści suicydalnych w telefonie dodatkowo pogarsza stan psychiczny dziecka i wzmacnia kryzys samobójczy - podkreślała wiceprezes Polskiego Towarzystwa Suicydologicznego.

Współczesne pokolenie dzieci i młodzieży bywa nazywane „płatkami śniegu”, co nawiązuje do jego psychicznej kruchości. 20 proc. uczniów przyznaje, że nie ma przyjaciela, 25 proc. często czuje się odrzuconych w grupie rówieśniczej. Są to czynniki ryzyka zachowań samobójczych.

71 proc. młodzieży z trzecich klas szkoły ponadpodstawowej, która doświadczyła myśli samobójczych w ciągu ostatniego roku, była obrażana w mediach społecznościowych przez osoby znane ze szkoły. Podobnej odpowiedzi udzieliło 66 proc. dzieci z klas siódmych podstawówki. Przed takim hejtem nie ma ucieczki.

Próba samobójcza i... Co widać na ekranie telefonu

Co jednak istotne - jak podkreślali eksperci - treści ukazujące się w internecie, choć mogą mieć wpływ na zachowania samobójcze, nie są jedynym impulsem, który popycha do nich nastolatków. Jest nim też m.in. przemoc, jakiej doświadczają w świecie realnym.

Np. spośród nastolatków z klas trzecich szkół ponadpodstawowych,
którzy w ciągu ostatniego roku poprzedzającego badanie mieli plany
samobójcze, 38 proc. doznało przemocy seksualnej (!), 17 proc. przemocy fizycznej od rodzica lub opiekuna, 55 proc. przemocy psychicznej od rodzica/opiekuna, 10 proc. było dręczonych w szkole zazwyczaj kilka razy w tygodniu.

Jak twierdzą psycholodzy, przelotne myśli samobójcze mogą się zdarzać. Problem pojawia się wówczas, gdy intensyfikują się i skupiają na tym, jak doprowadzić do samobójstwa, czyli zakładają metodę, konkretne okoliczności. W klasach siódmych w ciągu ostatniego roku w taki sposób planowało odebranie sobie życia 15 proc. uczniów klas siódmych szkoły podstawowej, a w klasach trzecich ponadpodstawowych 21 proc. Oznacza to, że ci nastolatkowie doświadczyli kryzysu samobójczego.

Dorośli obawiają się prowadzenia z nastolatkami rozmów o myślach samobójczych i samobójstwach. - Tymczasem nasze badania pokazały, że dzieci o tym rozmawiają między sobą - zaznaczyła Halszka Witkowska. W klasach siódmych 30 proc. dzieci oraz 45 proc. młodzieży z klas trzecich szkół ponadpodstawowych podało, że rówieśnik zwierzał się im z myśli samobójczych.

Niepokoi, iż 25 proc. dzieci z klas siódmych, które podjęły próbę samobójczą, twierdziło, że na telefonach bardzo często wyświetlają się im treści suicydalne. O takiej sytuacji młodzież z klas trzecich wspomina rzadziej (8 proc.). Czynnikiem, który eskaluje zachowania suicydalne, jest hejt w mediach społecznościowych.

Jak podkreślano na posiedzeniu podkomisji, konieczne jest wprowadzenie ustawowych wymogów dotyczących blokowania i usuwania z internetu treści suicydalnych.

Mateusz Wrotny, prawnik z Fundacji Panoptykon podał, że Fundacja przeprowadziła case studies dotyczące sposobu, w jaki algorytmy dobierają treści reklamowe i polecone. Celem było sprawdzenie, jak działa narzędzie (przycisk) na stronie, które realizuje polecenie „nie wyświetlaj reklam”, umożliwiające użytkownikom ograniczenie niepożądanych treści.

- Ograniczenie działało przez krótki czas, a potem treści powracały, angażując emocjonalnie użytkownika - podał.

Google przekierowuje, Facebook może zamknąć konto, a chatowi GPT jest przykro

Jak przypomniał poseł Grzegorz Napieralski, przewodniczący Podkomisji stałej do spraw sztucznej inteligencji i przejrzystości algorytmów (CNT), w przestrzeni internetowej funkcjonują już nie tylko algorytmy do wyszukiwania treści, ale i sztuczna inteligencja (AI).

- Naukowcy, alarmują, że część młodych ludzi szuka w AI wsparcia, nie zdając sobie sprawy, że jest to algorytm uczący się maszynowo, który czerpie z informacji wprowadzanych do internetu przez użytkowników sieci. Sztuczna inteligencja jest budowana na różnych modelach językowych, co doprowadza też do halucynacji i podawania błędnych odpowiedzi - mówił.

Czaty GPT nie są przygotowane do reagowania na myśli samobójcze.

Podczas posiedzenia podkomisji posłowie Grzegorz Napieralski i Paweł Bliźniuk (wiceprzewodniczący podkomisji) sprawdzili, jak reagują na takie wpisy właśnie chaty GPT. Pojawiły się informacje w rodzaju „przykro mi to słyszeć, że tak się czujesz”; czat udzielił też odpowiedzi, by „się zrelaksować”.

Istnieją już natomiast dobre praktyki dotyczące ułatwień w dotarciu do treści pomocowych przez osobę z myślami samobójczymi, poszukującej wsparcia w internecie. Stosuje je np. Google.

Jak tłumaczyła Halszka Witkowska, w Polsce przy wpisywaniu do wyszukiwarki Google frazy „chcę odebrać sobie życie” lub „chcę popełnić samobójstwo” wyświetlają się treści prowadzące do adresu strony pomocowej, gdzie można bezpłatnie i anonimowo potrzebną pomoc uzyskać.

Z kolei - jak podaje ekspertka - Facebook często blokuje konto osoby, która pisze w postach, że chce się zabić lub ma myśli samobójcze. Ma to chronić przed działaniem samobójczym. Jak jednak ocenia, w ten sposób odcina się nastolatkowi drogę komunikacji i możliwość wsparcia pod jego publicznym postem. To ważny aspekt, bo od pewnego czasu młodzi ludzie publikują listy pożegnalne w mediach społecznościowych.

Zdarzały się przypadki, gdy dzięki reakcji NASK (Naukowa i Akademicka Sieć Komputerowe - Państwowy Instytut Badawczy) i policji udało się uratować tę osobę. - Zatem warto brać pod uwagę i ten aspekt, by tworzyć przepisy prawa nie tylko ukierunkowane na blokadę treści, ale także profilaktyczne oddziaływanie w sytuacji kryzysu samobójczego - zaznaczyła wiceprezes Polskiego Towarzystwa Suicydologicznego.

Odpowiedzialność cyfrowa. Ekspert: mówmy o tym mamom już w szkole rodzenia

Są też czynione pierwsze próby zastosowania sztucznej inteligencji w zapobieganiu samobójstwom.

Powstało np. narzędzie „One Life”, opartego na sztucznej inteligencji, które wyszukuje treści suicydalne w publicznych postach użytkowników i jest w stanie rozróżnić te związane z samookaleczeniem, próbą samobójczą, żałobą po śmierci samobójczej. - To akurat przypadek, gdy sztuczna inteligencja może pomóc. Wyszuka użytkownika i wyśle mu profesjonalnie przygotowaną interwencję, która będzie go łączyć z miejscem, które mu udzieli już indywidualnej pomocy - mówiła Halszka Witkowska.

- Chcieliśmy opowiedzieć o tym narzędziu w Ministerstwie Cyfryzacji, ale pojawił się częsty problem, jakim jest odsyłanie w sprawach samobójstw do Ministerstwa Zdrowia - powiedziała, zaznaczając, że temat wymaga przede wszystkim omówienia w tym pierwszym z resortów.

Jak stwierdził poseł Grzegorz Napieralski, podkomisja „nie ma problemu, by rozmawiać z tymi, którzy zarządzają treściami w internecie”. - Spotykamy się z tymi bigtechami. To nie są proste rozmowy, ale staramy się prowadzić debatę, pokazywać nasz punkt widzenia jako ustawodawcy, na czym nam zależy w zakresie ograniczeń w udostępnianiu treści - mówił.

Dr Maciej Dębski, jeden z autorów omawianego badania, socjolog z Uniwersytetu Gdańskiego, dodał, że nie należy odczytywać raportu jako „wieszania psów” na internecie. - Są badania, z których wynika, że internet w o wiele mniejszym stopniu wpływa na zdrowie psychiczne nastolatków niż relacje z rodzicami. Treści, po jakie sięgają dzieci i młodzież w świecie wirtualnym, są skorelowane z wartościami, jakie zostały im przekazane w świecie rzeczywistym - podkreślił.

Zdaniem eksperta dobrym miejscem do rozmawiania o odpowiedzialności cyfrowej są... szkoły rodzenia. - Oczekiwanie na dziecko jest odpowiedniejszym czasem, by o niej mówić, niż czas, gdy dziecko otrzymuje od rodziców w wieku 8 lat i używa poza kontrolą swój pierwszy telefon z dostępem do internetu - mówił, wskazując na zajęcia w „porodówkach” realizowanych przez Fundację „Dbam o Mój Zasięg”.