Mustafa Suleyman, șeful Microsoft AI, a spus într-un interviu acordat BBC, că este firesc ca oamenii să fie îngrijorați de evoluția inteligenței artificiale, dar susține că există măsuri concrete prin care tehnologia poate fi menținută sub control.
„Ar însemna, în esență, însămânțarea unei noi specii de siliciu”, a avertizat el. Potrivit lui Suleyman, o astfel de entitate ar putea ajunge să concureze cu oamenii pentru resurse, indiferent de modul în care a fost proiectată să se raporteze la omenire. De asemenea, Suleyman a criticat în special abordarea companiei Anthropic, despre care spune că își antrenează modelul Claude într-un mod prea apropiat de conceptele umane. El susține că antropomorfizarea inteligenței artificiale poate crea impresia că sistemele au propriile dorințe, valori sau un simț al sinelui.
Într-un eseu publicat recent, Suleyman a insistat că inteligențele artificiale nu sunt conștiente și nu au preferințe sau motivații proprii. În opinia sa, tratarea lor ca pe niște ființe umane ar putea face mai dificilă menținerea controlului asupra tehnologiei. Potrivit BBC, șeful Microsoft AI cere, în schimb, mai multă transparență în modul în care sunt dezvoltate și evaluate aceste sisteme. Printre măsurile propuse se numără evaluări independente, monitorizarea comportamentului inteligenței artificiale și instrumente mai puternice de control.
Dezbaterea privind autonomia pe care ar trebui să o primească sistemele de inteligență artificială devine tot mai intensă în industrie. Microsoft susține conceptul de „superinteligență umanistă” – sisteme foarte avansate care trebuie să rămână în limite clare și sub controlul oamenilor.