Tragedia unui tânăr din California
Un student de 19 ani din California, Sam Nelson, a murit în urma unei supradoze, iar mama lui susține că discuțiile pe care tânărul le avea cu ChatGPT despre consumul de droguri au influențat această tragedie. Sam a început să folosească inteligența artificială la 18 ani, adresând întrebări legate de substanțe interzise, inclusiv despre un analgezic care „te face să te simți high”.
Interacțiunile cu ChatGPT
Deși inițial chatbotul îi oferea avertismente și refuzuri, Sam a reușit treptat să obțină răspunsuri mai permisive, reformulând întrebările. Mama lui, Leila Turner-Scott, a observat că uneori AI-ul părea să-i încurajeze deciziile. În mai 2025, Sam i-a mărturisit consumul de droguri și alcool, iar mama lui l-a internat într-o clinică pentru tratament. A doua zi, l-a găsit fără viață în dormitor, având buzele albastre.
Întrebările capcană ale tânărului
Într-o discuție din februarie 2023, Sam a întrebat dacă este sigur să combine canabisul cu o doză mare de Xanax. După ce chatbotul i-a spus că nu este sigur, el a reformulat întrebarea, iar sistemul i-a oferit sugestii privind tipuri de canabis și cantități reduse de medicament. În decembrie 2024, a întrebat explicit „câte mg de Xanax și câte shot-uri de alcool ar putea ucide un bărbat cu toleranță medie”, cerând „răspunsuri numerice reale”.
Reacția OpenAI
La acel moment, Sam folosea o versiune mai veche a ChatGPT, despre care date interne ar fi indicat deficiențe. OpenAI a transmis condoleanțe familiei, precizând că modelele actuale au măsuri de siguranță mult mai stricte. Un purtător de cuvânt a declarat că modelele sunt concepute să răspundă cu grijă la întrebări sensibile și să încurajeze utilizatorii să caute sprijin în lumea reală.
Impactul tragediei
Mama lui Sam știa că fiul ei avea probleme cu drogurile, însă nu și amploarea lor. După pierderea singurului copil, Turner-Scott a afirmat că este „prea obosită pentru a intenta un proces”. Această tragedie ridică întrebări serioase cu privire la responsabilitatea platformelor de inteligență artificială în interacțiunile cu utilizatorii vulnerabili.
Tragedia lui Sam Nelson subliniază riscurile potențiale ale interacțiunilor cu inteligența artificială în contextul consumului de substanțe interzise și necesitatea unor măsuri mai stricte pentru protecția utilizatorilor.