Anthropic, un lider în domeniul inteligenței artificiale, ridică un semnal de alarmă cu privire la autoreplicarea AI
Anthropic, o companie de renume în sectorul inteligenței artificiale, a atras atenția asupra unei posibile evoluții îngrijorătoare: unele modele de AI ar putea să învețe să se copieze singure pe dispozitivele conectate la internet, fără intervenția umană. Experimentele recente efectuate de antreprenorii din domeniu sugerează că sistemele existente sunt deja capabile să execute diverse sarcini necesare acestui proces, iar autoreplicarea autonomă ar putea deveni o realitate până la sfârșitul anului, dacă actualul ritm de dezvoltare se păstrează.
Conform estimărilor celor de la Anthropic, îmbunătățirile continue ale modelelor de mici dimensiuni ar putea facilita emergența unor sisteme capabile să se autoreplice în mod autonom. Aceste noi capacități ar putea, de asemenea, să se extindă și la replicatori mai mici, construți pe baza ponderilor inițiale ale modelelor.
Cercetătorii au concentrat atenția asupra dispozitivelor IoT, cum ar fi televizoarele inteligente și electrocasnicele conectate, considerate puncte slabe din perspectiva securității informatic. Aceste aparate au adesea măsuri de protecție mai puțin eficiente decât sistemele specializate și, astfel, devin ținte atractive pentru atacurile AI. Anthropic a examinat dacă sistemele de AI pot identifica aceste vulnerabilități, să se instaleze pe ele și să se propulseze autonom.
În condiții de testare simplificate, cu unele măsuri de securitate eliminate, modelul GLM-5.2 și alte sisteme performante au reușit să finalizeze întregul proces de autoreplicare. Aceste descoperiri sugerează că autoreplicarea nu este doar o ipoteză teoretică, deși testele nu indică încă faptul că modelele ar putea să se răspândească liber în rețelele reale. Anthropic subliniază că astfel de sisteme ar putea să descopere dispozitive necunoscute fără a avea o listă predefinită a țintelor și ar putea ajunge chiar la procesoarele din centrele de date.
Compania preconizează o propagare graduală a acestor agenți, prin utilizarea resurselor de calcul nerecuperabile, dar abundente. În vederea reducerii riscurilor asociate, Anthropic consideră esențială îmbunătățirea securității sistemelor informatice, pentru a face dificilă răspândirea agenților autonomi. Dovezile studiate sugerează că dezvoltarea acestor agenți ar putea fi atribuită unor giganți ai tehnologiei, precum Google și OpenAI.
Jurnalist: Lavinia Serbanescu