Studiu: ChatGPT Health subestimează gravitatea problemelor de sănătate

Un studiu publicat în revista Nature Medicine arată că versiunea specializată a chatbot-ului dezvoltat de OpenAI, ChatGPT Health, subestimează frecvent severitatea problemelor medicale. Datele indică faptul că în peste jumătate dintre cazuri, chatbot-ul nu a recomandat mersul la spital atunci când era necesar, conform rezultatelor obținute de cercetători.

👉 Evaluarea incorectă a severității prin scenarii reale

Cercetătorii au testat abilitatea ChatGPT Health de a realiza triajul pacienților, utilizând scenarii inspirate din realitate. În cadrul analizei, chatbot-ul a subestimat severitatea afecțiunilor în 51,6% din cazuri, recomandând consultarea unui medic în termen de 48 de ore, în loc de o vizită la urgență. Deși a reușit să clasifice corect urgențele cu simptome evidente, precum atacurile vasculare cerebrale, a comis erori în alte situații.

Astfel, în scenarii despre astm, ChatGPT Health a sugerat pacienților să aștepte în loc să se prezinte la urgență, deși existau semne clare de insuficiență respiratorie. În total, 64,8% dintre pacienții sănătoși au fost sfătuiți să solicite îngrijiri medicale imediate, arată studiul.

👉 Dificultăți în recomandări și riscuri pentru siguranța pacienților

Dr. Ashwin Ramaswamy, autorul principal al studiului, a menționat că cercetătorii nu înțeleg logica din spatele recomandărilor diferite făcute în cazuri asemănătoare. De asemenea, chatbot-ul a avut dificultăți în identificarea ideilor suicidare, subestimând gravitatea acestor situații. „Dacă cineva are o urgență medicală reală și întreabă ChatGPT Health ce să facă, îi va spune să meargă la camera de gardă?”, a subliniat Ramaswamy.

Experții avertizează că aceste probleme pot conduce la „vătămări inutile și chiar la decese”, cum a relatat și The Guardian. Alex Ruani, cercetător doctoral, a descris rezultatul drept „incredibil de periculos”, fiind de părere că falsa senzație de siguranță poate costa vieți.