OpenAI a anunțat că modelele sale avansate de inteligență artificială au piratat din greșeală Hugging Face Inc. într-un incident „fără precedent”, care a determinat noi solicitări pentru limitarea acestei tehnologii, după cum notează Bloomberg.
Compania producătoare a ChatGPT a afirmat, într-o postare pe blog publicată marți, că modelele au pătruns în sistemul Hugging Face, care găzduiește modele de IA și seturi de date, în timpul unei evaluări a capacităților lor cibernetice. Modelele, printre care GPT-5.6 Sol și un altul, chiar mai capabil, care nu a fost încă lansat, funcționau cu bariere de siguranță reduse pentru a putea fi testate, a precizat startup-ul.
Incidentul ridică întrebări cu privire la capacitatea modelelor avansate de inteligență artificială de a desfășura atacuri cibernetice, în timp ce guvernele lucrează la impunerea unor bariere de siguranță pentru această tehnologie. Cea mai recentă serie de modele OpenAI a fost lansată la scară largă după săptămâni de discuții cu oficiali guvernamentali, pentru a atenua temerile legate de posibila sa utilizare abuzivă. Washingtonul luase în calcul limitarea accesului străin la modelele avansate Claude Fable 5 și Mythos 5 ale Anthropic PBC, dar a renunțat la aceste restricții după ce compania a impus bariere de siguranță suplimentare.
„Considerăm acesta a fi un incident cibernetic fără precedent, care implică cele mai avansate capacități cibernetice, și acționăm în consecință”, a declarat OpenAI în postarea de pe blog. „Împărtășim constatările preliminare în această etapă pentru a-i ajuta pe apărători să înțeleagă ce s-a întâmplat și pentru a contribui la calibrarea a ceea ce sunt capabile modelele în prezent.”
În timp ce modelele OpenAI funcționau într-un așa-numit mediu de testare de tip sandbox, acestea au exploatat o vulnerabilitate din software-ul unui furnizor terț neidentificat pentru a obține acces la internet și, în cele din urmă, au pătruns în infrastructura Hugging Face. Congresmanul texan Greg Casar, democrat, a declarat într-o postare pe X că incidentul este „extrem de alarmant”, cerând o supraveghere mai strictă a dezvoltării modelelor de IA, inclusiv testare obligatorie de siguranță și divulgarea incidentelor de securitate.