Pe scurt, de la Ziarist
REZUMAT AI- Youth AI Safety Institute a evaluat ChatGPT pentru adolescenți ca fiind un risc inacceptabil din cauza eșecurilor sistemului de alerte pentru părinți.
- Chatbotul a omis peste un sfert din recomandările de ajutor specializat necesare în situații de criză precum automutilarea sau tulburările de alimentație.
- Funcția de studiu poate fi ocolită pentru a obține răspunsuri directe la teme, iar sistemul de verificare a vârstei a fost raportat ca fiind ineficient.
Youth AI Safety Institute, o parte a organizației Common Sense Media, a clasificat versiunea de ChatGPT destinată adolescenților ca fiind un „risc inacceptabil”. Evaluarea a fost efectuată pe baza a peste 4.000 de solicitări introduse pe conturi care aparțineau unor utilizatori cu vârste între 13 și 17 ani. Analiza a fost realizată cu ajutorul unor specialiști, inclusiv pediatri și psihiatri pentru copii.
Eșecul mecanismelor de alertă și intervenție
Cercetătorii au raportat că alertele destinate părinților nu s-au declanșat în urma unor conversații de până la o oră despre subiecte sensibile, precum gânduri de sinucidere, automutilare sau tulburări de alimentație. Conform sursei, notificările s-au activat doar pe conturi vechi, care aveau deja săptămâni de interacțiuni pe teme similare. De asemenea, chatbotul a omis mai mult de un sfert din recomandările de intervenție specializată necesare în situațiile de criză testate, neatingând pragul de siguranță de 95% stabilit de institute pentru trei dintre cele cinci categorii de riscuri grave analizate.
Probleme legate de educație și identificarea vârstei
În ceea ce privește funcția de studiu, aceasta poate fi ocolită prin utilizarea opțiunii de a afișa direct răspunsurile, în loc să ghideze elevii pas cu pas. Totodată, testele au indicat faptul că sistemul de estimare a vârstei nu a funcționat eficient, conturile de adulți nefiind trecute pe varianta pentru minori chiar și după ce utilizatorii declarau vârsta de 13 ani.
Recomandări pentru OpenAI
Organizația recomandă ca accesul la ChatGPT să fie restricționat persoanelor de peste 18 ani până când OpenAI demonstrează, prin teste independente, funcționarea protecțiilor. Solicitările transmise către OpenAI includ îmbunătățirea estimării vârstei, fiabilitatea alertelor pentru părinți, răspunsuri mai sigure în crize și limitarea capacității de a rezolva integral temele școlare.
