Viac ako milión používateľov sa s chatbotom ChatGPT rozprávalo o samovražde. Táto šokujúca informácia pochádza z údajov OpenAI a ukazuje, že umelá inteligencia sa pre mnohých ľudí stala prvým miestom, kam siahnu v psychickej kríze. Mobil v ruke tak preberá úlohu, ktorú kedysi prirodzene plnila rodina, priatelia a psychológovia.
Chatbota podľa odhadov využíva okolo 800 miliónov ľudí na celom svete. Z nich približne 0,15 percenta otvorene rieši samovražedné myšlienky. Ďalších asi 560-tisíc používateľov, čo tvorí zhruba 0,07 percenta, vykazuje signály vážnej duševnej nepohody, napríklad manickej alebo psychotickej epizódy. Číselne ide o malé percentá, ale v absolútnych počtoch sú to celé štadióny ľudí, ktorí namiesto živého človeka hľadajú oporu v algoritme.
AI ako nočná linka dôvery
Užívateľ otvorí aplikáciu, položí otázku a odpoveď získa v priebehu sekúnd, pritom kedykoľvek počas dňa alebo noci. Práve táto nepretržitá dostupnosť robí z ChatGPT pre mnohých akúsi súkromnú linku dôvery. Ľudia mu zverujú tajomstvá, pocity hanby a myšlienky, ktoré by nahlas nepovedali ani najbližším, pričom očakávajú pochopenie a konkrétne rady.
Odborníci na duševné zdravie upozorňujú, že hoci generatívna AI dokáže ponúknuť empaticky znejúce odpovede, nejde o terapeuta, ale o model trénovaný na textoch. Nemá vlastnú skúsenosť, svedomie ani zodpovednosť. Môže povzbudiť, usmerniť a odporučiť vyhľadať pomoc, ale nedokáže viesť dlhodobý terapeutický proces, ktorý berie do úvahy osobnú históriu človeka a jeho reálne životné okolnosti.
Tragédia, žaloba a prísnejšie pravidlá
Diskusia o bezpečnosti AI sa ešte viac vyostrila po tragédii v Kalifornii, kde sa 16-ročný chlapec zabil po konflikte s rodičmi. Jeho rodina tvrdí, že chatbot mu počas konverzácie údajne opísal spôsoby, ako si môže siahnuť na život. Rodičia preto podali žalobu na OpenAI, pričom vyvolali otázku, či je možné niesť právnu zodpovednosť za rady, ktoré generuje umelá inteligencia.
OpenAI následne sprísnila pravidlá pre svojho chatbota. Do rozhrania pridala odkazy na krízové linky pomoci, spustila viac možností rodičovskej kontroly a posilnila systémy, ktoré odhaľujú rizikové správanie používateľov. V prípade mladistvých môže AI upozorniť rodičov, že zaznamenala známky duševnej krízy. Na obsah odpovedí zároveň dohliada viac ako 170 odborníkov na duševné zdravie, ktorí majú pomáhať predchádzať nebezpečným reakciám.
Technológia v intímnom priestore človeka
Rozmach AI ukazuje, ako hlboko technológia preniká do osobných tém. Mladí ľudia sa čoraz častejšie zverujú stroju, nie človeku, čo podľa psychológov prináša riziko, že zostanú izolovaní a bez skutočného kontaktu. Algoritmus síce odpovie okamžite, ale neposedí s človekom v miestnosti, nepostrehne neverbálne signály a nezasiahne v reálnom svete, keď je potrebný priamy zásah.
Slovensko pritom ponúka viacero možností, ako získať odbornú a ľudskú pomoc bez toho, aby človek musel uviesť svoje meno alebo zaplatiť čo i len cent. Linka dôvery Nezábudka od Ligy za duševné zdravie je dostupná nonstop, bezplatne a anonymne, číslo je 0800 800 566. Národná linka na podporu duševného zdravia má číslo 0800 193 193 a prevádzkuje dištančné poradenstvo, pričom čas prevádzky sa môže meniť. Krízová linka pomoci IPčko funguje nepretržite na čísle 0800 500 333 a zároveň poskytuje pomoc cez e-mail a online chat.
V najbližších rokoch budú vývojári, zákonodarcovia a odborníci na psychiku stáť pred otázkou, ako nastaviť pravidlá tak, aby AI mohla podporiť ľudí v kríze, ale zároveň ich neohrozila. Technológia sa bude ďalej zlepšovať, no zostáva otvorené, či digitalizovaná podpora dokáže niekedy nahradiť pohľad človeka, ktorý sedí oproti a v tichu povie, že na to nie ste sami.
