Przypadek pacjenta, który doświadczył poważnych problemów zdrowotnych po zastosowaniu się do porad wygenerowanych przez AI, pokazuje, jak ważna jest ostrożność w korzystaniu z tego typu źródeł informacji.
Czy ChatGPT zastąpi lekarza?
W ostatnich latach narzędzia oparte na sztucznej inteligencji, takie jak ChatGPT, zyskały ogromną popularność. Coraz więcej osób traktuje je jako źródło wiedzy — również w sprawach zdrowotnych. Choć technologie te stają się coraz bardziej zaawansowane, wciąż nie są w stanie zastąpić konsultacji z lekarzem. Niedawny przypadek mężczyzny, który zatruł się bromem w konsekwencji porady uzyskanej od sztucznej inteligencji, wskazuje na możliwe niebezpieczeństwo i konieczność zachowania ostrożności podczas korzystania z narzędzi AI.
Mężczyzna zatruł się bromem — tak poradził mu chatbot oparty na sztucznej inteligencji
Do szpitala zgłosił się 60-letni mężczyzna bez wcześniejszej historii zaburzeń psychiatrycznych. Powodem konsultacji były objawy psychotyczne, w tym silne przekonanie, że jest celowo podtruwany przez sąsiada. W trakcie hospitalizacji lekarze odnotowali u niego nietypowe wyniki badań laboratoryjnych — bardzo wysokie stężenie chlorku oraz ujemną lukę anionową. W surowicy krwi nie wykryto alkoholu ani substancji psychoaktywnych.
Początkowo pacjent zaprzeczał stosowaniu jakichkolwiek nowych leków lub suplementów. W toku dalszego wywiadu przyznał jednak, że przez ostatnie trzy miesiące radykalnie zmienił dietę pod wpływem informacji znalezionych w internecie. W tym czasie całkowicie zastąpił sól kuchenną (chlorek sodu) bromkiem sodu, uznając chlorki za szkodliwe.
Na podstawie objawów klinicznych i wyników badań lekarze rozpoznali zatrucie bromem (tzw. bromizm). Toksyczne stężenie bromu w organizmie wywołało zarówno objawy psychiatryczne, jak i zaburzenia metaboliczne obserwowane w badaniach laboratoryjnych.
Pacjentowi wdrożono intensywną płynoterapię dożylną w celu przyspieszenia eliminacji bromu z organizmu. Dodatkowo zastosowano farmakoterapię przeciwpsychotyczną, którą stopniowo odstawiano wraz z poprawą stanu psychicznego. Po kilku tygodniach leczenia poziom bromu we krwi uległ normalizacji, a objawy psychotyczne całkowicie ustąpiły.
Wpływ sztucznej inteligencji na decyzje zdrowotne
Opisany przypadek dotyczy pacjenta, u którego rozpoznano bromizm – zatrucie bromem, dziś występujące bardzo rzadko. Autorzy publikacji podkreślają jednak, że substancje zawierające brom są obecnie łatwo dostępne w sprzedaży internetowej, co może zwiększać ryzyko podobnych przypadków.
Szczególną uwagę zwrócono na źródło decyzji pacjenta.
Zastosowanie bromku sodu jako zamiennika soli kuchennej było bowiem efektem zaleceń uzyskanych od chatbota opartego na sztucznej inteligencji. Pacjent, kierując się tymi sugestiami, doprowadził do rozwoju zatrucia.
Autorzy pracy ostrzegają, że choć narzędzia oparte na AI mogą być pomocne w zdobywaniu informacji, nie powinny zastępować profesjonalnych konsultacji medycznych. Wskazują również na potrzebę ostrożności i krytycznego podejścia do treści generowanych przez sztuczną inteligencję, szczególnie w kontekście zdrowia.
Pracę opublikowano w czasopiśmie Annals of Internal Medicine: Clinical Cases.
