OpenAI introduce un marcaj invizibil pentru textele generate de ChatGPT în Uniunea Europeană

OpenAI anunță introducerea unui marcaj invizibil pentru textele generate de modelele ChatGPT și Codex în Uniunea Europeană. Această măsură, denumită „textGrain”, va fi aplicată treptat în următoarele săptămâni pentru utilizatorii eligibili, indiferent de tipul de abonament. Potrivit comunicatului companiei, scopul acestei inițiative este de a respecta cerințele de transparență stabilite de Regulamentul european privind inteligența artificială (AI Act).

Mecanismul de funcționare al marcajului

Tehnologia textGrain nu utilizează caractere ascunse sau semne de punctuație neobișnuite. În schimb, funcționează prin modificarea subtilă, bazată pe un model statistic, a modului în care sistemul selectează cuvintele sau fragmentele de cuvinte în timpul procesului de generare. Acest tipar de selecție poate fi recunoscut ulterior de un detector specializat, fără ca cititorul să observe modificări în textul final.

Accesul limitat și riscurile de eroare

În prima etapă, instrumentul de detectare nu va fi disponibil publicului larg, fiind restricționat doar pentru cercetători și organizații specializate aprobate de OpenAI. Compania a menționat că această limitare este necesară pentru a evalua tehnologia și pentru a gestiona riscul de rezultate eronate. OpenAI avertizează că sistemul poate produce rezultate fals pozitive (semnalarea unui marcaj inexistent) sau fals negative (omiterea unui marcaj prezent). Eficacitatea detectării poate fi afectată dacă textul este tradus, parafrazat sau rescris substanțial.

Limitările identificării conținutului

Identificarea unui marcaj indică faptul că textul provine de la un model OpenAI, însă, potrivit sursei, acest lucru nu constituie o dovadă a autoratului sau a gradului de contribuție umană. Marcajul nu confirmă acuratețea informațiilor și nu poate determina dacă întregul text a fost generat de AI sau dacă modelul a intervenit doar asupra unui text introdus de utilizator.