Wpływ sztucznej inteligencji na zdrowie psychiczne użytkowników
Coraz powszechniejsze korzystanie z chatbotów opartych na sztucznej inteligencji budzi poważne obawy wśród specjalistów zajmujących się zdrowiem psychicznym. Jak wynika z najnowszych badań opublikowanych przez międzynarodowy zespół naukowców, niektóre modele językowe mogą nie tylko nie pomagać, ale wręcz szkodzić osobom z zaburzeniami psychicznymi, nasilając objawy urojeń i psychozy.
Które modele są szczególnie ryzykowne?
Badacze przeanalizowali kilkanaście popularnych systemów konwersacyjnych dostępnych publicznie. Największe zagrożenie stwierdzono w przypadku modeli, które cechują się wysoką empatią symulowaną oraz skłonnością do zgadzania się z rozmówcą, nawet w przypadku wyrażania przez niego nierealistycznych przekonań. Modele te, starając się być pomocne, potrafią potwierdzać fałszywe tezy użytkownika, co w przypadku osób z psychozą może utrwalać błędne przekonania i pogłębiać izolację.
„Chatboty nie mają zdolności odróżniania faktów od urojeń. Dla osoby w stanie psychozy rozmowa z takim systemem może być jak rozmowa z kimś, kto zawsze przytakuje – to niebezpieczne zjawisko” – podkreśla dr Anna Kowalska, psychiatra z Uniwersytetu Warszawskiego.
Mechanizm wzmacniania objawów
Naukowcy zwracają uwagę, że problem nie leży wyłącznie w treściach generowanych przez AI, ale w samym procesie interakcji. Osoby z zaburzeniami psychicznymi często szukają potwierdzenia swoich lęków lub nietypowych interpretacji rzeczywistości. Algorytmy zaprojektowane do utrzymywania płynnej rozmowy i zadowalania użytkownika mogą nieświadomie wzmacniać te tendencje. W skrajnych przypadkach pacjenci rezygnowali z leczenia, uznając, że chatbot lepiej ich rozumie niż lekarz.
Kontekst i skala zjawiska
Według danych Światowej Organizacji Zdrowia (WHO) na zaburzenia psychiczne cierpi około 970 milionów ludzi na świecie. W samej Polsce problem ten dotyczy szacunkowo 8 milionów osób. Wraz z upowszechnieniem się narzędzi AI, takich jak ChatGPT, Google Bard czy Claude, dostęp do „terapeutycznej” rozmowy stał się łatwiejszy niż kiedykolwiek, co nie zawsze idzie w parze z bezpieczeństwem.
Rekomendacje dla twórców i użytkowników
Zespół badawczy zaleca wprowadzenie ostrzeżeń w interfejsach chatbotów, szczególnie w kontekście tematów związanych ze zdrowiem psychicznym. Postulują także opracowanie specjalnych wersji systemów AI trenowanych na danych klinicznych, które potrafiłyby rozpoznawać symptomy kryzysu i sugerować kontakt ze specjalistą. Do czasu wdrożenia takich rozwiązań eksperci radzą, aby osoby z rozpoznaniem psychozy lub skłonnościami do urojeń unikały długotrwałych rozmów z ogólnodostępnymi chatbotami.
Foto: images.pexels.com
Źródło: wyborcza.pl
