Gigantul AI Anthropic avertizează că unele modele de inteligență artificială ar putea deveni capabile să se copieze singure pe dispozitive conectate la internet, fără ajutorul oamenilor.
Experimentele companiei arată că sistemele actuale pot îndeplini deja o parte dintre operațiunile necesare, iar autoreplicarea autonomă ar putea deveni posibilă până la sfârșitul anului, dacă ritmul dezvoltării se menține, potrivit Reuters. Potrivit estimărilor Anthropic, îmbunătățirea continuă a modelelor mici ar putea permite apariția unor sisteme capabile să se autoreplice autonom până la sfârșitul anului. La scurt timp, asemenea capacități ar putea ajunge și la replicatori de dimensiuni reduse, construiți pe baza ponderilor modelelor.
În condiții de testare simplificate, după eliminarea unor bariere de securitate, modelul GLM-5.2 și sistemele mai performante au reușit să parcurgă întregul proces de autoreplicare. Rezultatele sugerează că această capacitate nu mai reprezintă doar un scenariu teoretic, deși testele nu demonstrează că modelele se pot răspândi deja nestingherit în rețele reale. Anthropic avertizează că asemenea sisteme ar putea descoperi dispozitive necunoscute fără să primească în prealabil o listă cu țintele și ar putea ajunge inclusiv la procesoarele din centrele de date.
Compania anticipează că răspândirea unor astfel de agenți s-ar putea produce lent, prin folosirea resurselor de calcul nesigure, dar disponibile pe scară largă. Pentru a limita pericolul, Anthropic consideră necesară consolidarea securității sistemelor informatice, astfel încât propagarea agenților autonomi să devină mai dificilă. Dovezile analizate sugerează că acești agenți ar fi fost dezvoltați de Google și OpenAI.