Google elimină rezumatele eronate generate de AI
Gigantul american Google a șters mai multe rezumate pe teme de sănătate generate de inteligența artificială Gemini, după ce o investigație a publicației britanice The Guardian a demonstrat că acestea conțin informații greșite și periculoase pentru utilizatori.
Informații riscante oferite de AI
Investigația a scos la iveală că, în cazul întrebării „care este intervalul normal pentru testele de sânge hepatice”, răspunsul generat de AI a fost incomplet, lipsind informații esențiale precum sexul și vârsta pacientului. Această omisiune ar putea induce în eroare pacienții, făcându-i să creadă că rezultatele lor sunt normale, ceea ce ar putea duce la renunțarea la alte investigații medicale necesare.
Acțiuni imediate ale Google
După publicarea investigației, Google a acționat rapid și a eliminat răspunsurile problematice din motorul său de căutare. Cu toate acestea, compania nu a oferit detalii suplimentare despre planurile sale de a îmbunătăți moderarea răspunsurilor oferite de AI, în special în domeniul sănătății.
Continuitatea serviciului AI Overviews
Funcția AI Overviews, care utilizează inteligența artificială pentru a rezuma informații și a genera răspunsuri în motorul de căutare, rămâne activă. Este posibil ca și alte răspunsuri generate de AI să fie inexacte, ceea ce ar putea continua să afecteze utilizatorii.
Concluzie
Acțiunile Google subliniază importanța responsabilității în utilizarea inteligenței artificiale, în special în domenii sensibile precum sănătatea, pentru a proteja utilizatorii de informațiile false și potențial periculoase.