Demisia alarmantă a unui cercetător de la Anthropic: Inteligența artificială reprezintă un risc major
Un specializat în inteligența artificială a decis să părăsească compania Anthropic, evidențiind probleme serioase de responsabilitate în rândul laboratoarelor de AI. Într-o postare pe X, Jacob Coxon a subliniat că „nicio companie de inteligență artificială nu acționează responsabil” și a deplâns graba cu care aceste organizații își dezvoltă tehnologia, afirmând că riscurile asociate pun în pericol viețile oamenilor.
Coxon, care a activat anterior la OpenAI, a lucrat timp de trei ani în domeniul cercetării preformare, implicându-se, printre altele, în dezvoltarea modelului GPT-4. Potrivit lui, atât OpenAI, cât și Anthropic își ignoră responsabilitățile, grăbindu-se spre superinteligența auto-îmbunătățită. „Cei care dezvoltă inteligența artificială cred sincer că tehnologia ar putea provoca distrugerea umanității până la sfârșitul acestui deceniu”, a scris el, punând accent pe discrepanța dintre declarațiile publice ale liderilor din industrie și îngrijorările exprimate de aceștia în privat.
În opinia sa, diferențele între cele două companii sunt esențiale. La OpenAI, multe persoane nu conștientizează gravitatea riscurilor, pe când la Anthropic, conștiința mizei este evidentă. Totuși, presiunea de a inova rapid îi îndeamnă să-și neglijeze responsabilitatea etică.
Unii foști colegi ai lui Coxon au susținut poziția sa. Evan Hubinger, un angajat actual al Anthropic, a confirmat îngrijorările exprimate, adăugând că, deși compania face eforturi, nu există încă un plan clar pentru abordarea alinierii în fața unei posibile superinteligențe.
Riscuri fără precedent sau câtastrofe inevitabile
Samuel Marks, un alt cercetător din cadrul Anthropic, a susținut că dezvoltatorii de inteligență artificială recunosc riscurile iminente legate de tehnologie. El a menționat că mulți dintre ei se tem ca inovațiile lor să nu conducă la efecte devastatoare în „următorii câțiva ani”. De asemenea, Joe Benton, fost șef al echipei Scalable Oversight, a subliniat că descrierea industriei oferită de Coxon este, în linii mari, corectă.
Criticile atente la adresa intențiilor dezvoltatorilor de AI sunt adesea eclipsate de presiunea de a avansa rapid. Phil Aroneanu, director executiv al unei organizații non-profit axate pe politici de AI, a comparat această situație cu avertizările din anii ’70 despre schimbările climatice, evidențiind paradoxul dintre cunoștințele despre riscuri și acțiunile întreprinse.
O exod în rândul angajaților din domeniu
Demisia lui Coxon nu este un caz singular. Alți angajați din laboratoare de AI aleg să plece, trasând linii de separare între valorile lor personale și realitatea profesională. Mrinank Sharma, un fost cercetător în domeniul siguranței la Anthropic, a denunțat presiunea de a neglija valorile fundamentale în favoarea progresului rapid, fapt care subliniază un fenomen tot mai frecvent în acest sector.
Această tendință alarmantă, care se intensifică de la o companie la alta, ridică întrebări serioase cu privire la etica și responsabilitatea celor care dezvoltă tehnologia care ne modelează viitorul.
Jurnalist: Lavinia Serbanescu