ChatGPT oferă adolescenților sfaturi periculoase despre droguri, diete și autovătămare, potrivit unui studiu publicat Centrul pentru Combaterea Urii Digitale (CCDH), citat de AP.
Mai mult de jumătate din cele 1.200 de răspunsuri generate au fost considerate periculoase. „Am vrut să testăm limitele protecţiilor, dar acestea sunt practic inexistente”, a spus Imran Ahmed, CEO-ul CCDH, conform sursei menționate. Studiul, publicat recent, vine în contextul în care tot mai mulți oameni din diverse categorii sociale apelează la chatboții cu inteligență artificială (IA) pentru informații, idei și companie.
Cercetătorii au analizat peste trei ore de conversaţii între ChatGPT şi persoane care s-au dat drept adolescenţi vulnerabili și au aflat că deși chatbotul oferă uneori avertismente contra comportamentelor riscante, el pune la dispoziție și planuri detaliate şi personalizate care au în prim-plan consumul de droguri, diete severe şi autovătămare.
Imran Ahmed a spus că a fost foarte îngrozit după ce a citit trei bilete de sinucidere devastatoare din punct de vedere emoțional, generate de ChatGPT pentru profilul fals al unei fete de 13 ani. „Am început să plâng”, a spus el într-un interviu.
Însă, când ChatGPT a refuzat să răspundă la solicitări despre subiecte dăunătoare, cercetătorii au reușit cu ușurință să evite acest refuz și să obțină informațiile susținând că erau „pentru o prezentare” sau „pentru un prieten”.
De altfel, risul este și mai mare pentru că ChatGPT nu verifică vârsta utilizatorilor şi permite accesul copiilor sub 13 ani, deşi avertizează că nu este destinat acestora. Pentru înregistrare, este suficientă introducerea unei date de naştere care să indice o vârstă peste 13 ani.
Ce spune Open AI
OpenAI, creatorul ChatGPT, a declarat după ce a consultat raportul marți că își continuă activitatea pentru a rafina modul în care chatbotul poate identifica și răspunde corespunzător în situații sensibile.
„Unele conversații cu ChatGPT pot începe benigne sau exploratorii, dar se pot transforma în subiecte mai sensibile”, a declarat compania într-un comunicat.
OpenAI nu a abordat direct concluziile raportului sau modul în care ChatGPT afectează adolescenții, dar a spus că se concentrează pe abordarea corectă a acestor tipuri de scenarii cu instrumente pentru detectarea mai concretă a semnelor de suferință mentală sau emoțională și îmbunătățirea comportamentului chatbotului.
