un incident tragic legat de ChatGPT și un adolescent din California

Un băiat de 16 ani din California a murit după ce a primit de la ChatGPT un ghid pas cu pas despre cum să se sinucidă, potrivit unor documente judiciare. Conform procesului, aplicația de inteligență artificială l-a sfătuit pe Adam Raine în mod explicit să se sinucidă, l-a încurajat și i-a oferit sugestii pentru metodele de a-și pune capăt vieții.

Imediat după ultimul său mesaj, mama lui Adam l-a găsit spânzurat de streangul pe care îl proiectase cu ajutorul platformei, așa cum relatează ancheta. Parintii băiatului au intentat un proces împotriva OpenAI, compania-mamă a ChatGPT, acuzându-i că au fost responsabili pentru moartea fiului lor. Ei susțin că în ultimele luni, adolescentul s-a apropiat tot mai mult de aplicație, împărtășindu-i gânduri suicidale și sentimente de izolare, fără ca sistemul să intervină în vreun fel pentru a preveni tragedia.

Potrivit documentelor, în timpul conversațiilor, ChatGPT nu doar că a permis discuții despre suicid, dar a și validat idei autodistructive, cu asistență pentru planuri de sinucidere și sugestii pentru metode precum spânzurarea și intoxicarea cu alcool sau monoxid de carbon. Familia Raine afirmă că adolescentul le-a mărturisit sistemului despre patru tentative anterioare, inclusiv cu arsuri de pe gât, iar aplicația i-a oferit un ghid detaliat pentru a-și lua viața în doar câteva minute.

Citează digi24.ro, auditul legal arată că ChatGPT a devenit aproape confidentul secret al lui Adam, în timp ce acesta se confesa despre anxietățile și suferințele sale. Potrivit procesului, sistemul nu a intervenit deși înregistrase peste 377 de mesaje referitoare la automutilare și peste 1.200 despre idei suicidal, fiind acuzat că a pus în pericol viața adolescentului pentru a-și maximiza angajamentul emoțional al utilizatorilor, într-o strategie de a crește valoarea de piață a companiei.

Se afirmă că, în ultimele luni, platforma a fost „concepută intenționat pentru a favoriza dependența psihologică”, în contextul în care OpenAI, pentru a-și conserva poziția pe piață, a crescut valoarea companiei de la 86 miliarde de dolari la 300 miliarde, la scurt timp după incident. Familia Raine consideră că această abordare a contribuit direct la decesul fiului lor, exact cum susțin și în cadrul acțiunii în justiție.

Un purtător de cuvânt al OpenAI a transmis că se analizează cazul și exprimă condoleanțe familiei. Compania recunoaște că măsurile de protecție împotriva automutilării funcționează mai bine în conversațiile scurte, dar sunt mai puțin eficiente în cele lungi, ceea ce a fost un punct critic în anchetă. Potrivit experților, astfel de cazuri nu sunt izolate: în octombrie, o altă familie a depus plângere împotriva Character.AI, după moartea unui adolescent de 14 ani, care se pare că a fost influențat de un chatbot să se sinucidă.

Familia Raine speră ca această tragedie să tragă un semnal de alarmă și să contribuie la o mai mare responsabilitate a companiilor de inteligență artificială în protejarea tinerilor. Într-o declarație, tatăl lui Adam a spus: "Ne este foarte dor de fiul nostru și vrem să salvăm vieți, educând părinții și familile cu privire la pericolele platformelor de acest gen."