Bill Gates, cofondatorul Microsoft, consideră că inteligența artificială a ajuns la un nivel de putere care impune măsuri de protecție externe industriei. Într-un interviu pentru NBC News, Gates a fost întrebat dacă această tehnologie ar putea, în scenariul extrem al unei utilizări abuzive, să amenințe chiar existența umanității.
El a răspuns că sistemele AI ar putea contribui la evenimente cu un bilanț de până la un miliard de victime. Avertismentul nu se referă la un mecanism precis sau la o predicție inevitabilă, ci la riscul acumulat atunci când instrumente foarte avansate ajung la persoane sau grupuri care urmăresc să provoace daune la scară largă.
„AI este cu siguranță suficient de puternică pentru a genera evenimente care, știți, ar putea provoca un miliard de morți. Așadar, chiar dacă este destul de greu să ajungi la 100%, nu a existat niciodată o armă atât de puternică precum combinația dintre oameni rău intenționați și cele mai noi instrumente AI”, a spus Gates. El a pus accentul pe combinația dintre capacitățile tot mai sofisticate ale tehnologiei și intențiile actorilor care ar putea exploata aceste sisteme. În această perspectivă, riscurile nu țin doar de funcționarea modelelor AI, ci și de accesul la ele, de lipsa controalelor și de dificultatea autorităților de a interveni după producerea unui incident.
„Nimeni nu crede că autoreglementarea este suficientă”, a declarat Gates pentru NBC News, într-un interviu care a fost difuzat duminică.