Compania OpenAI a demarat implementarea unei soluții tehnice de marcare invizibilă a textelor produse de modelele sale lingvistice pentru utilizatorii din Uniunea Europeană. Inițiativa răspunde direct obligațiilor legale impuse de Regulamentul European privind Inteligența Artificială (EU AI Act), în special Articolului 50, care cere furnizorilor de sisteme de inteligență artificială generativă să asigure marcarea conținutului sintetic într-un format care poate fi detectat și verificat automat.
Sistemul dezvoltat de OpenAI poartă denumirea tehnică „textGrain” și a fost integrat direct în fluxurile de generare pentru utilizatorii eligibili ai platformelor ChatGPT și Codex din statele membre UE.
Cum funcționează amprenta statistică textGrain
Spre deosebire de metodele clasice de marcare a fișierelor multimedia, care adaugă metadate în antetul fișierului sau caractere speciale ascunse (zero-width characters), textGrain acționează la nivel matematic asupra modului în care modelul alege succesiunea cuvintelor:
- Semnal statistic distribuit: În timpul generării răspunsului, algoritmul ajustează insesizabil distribuția de probabilitate a termenilor selectați (tokeni), creând un tipar statistic specific care nu afectează claritatea sau calitatea lingvistică a textului;
- Fără caractere ascunse: Textul final conține exclusiv caractere standard, fără coduri ascunse care ar putea fi eliminate printr-o simplă copiere într-un editor de tip Notepad;
- Rezistență parțială la editare: Amprenta matematică poate fi identificată chiar dacă o parte din text este parafrazată sau tradusă parțial, însă acuratețea detecției scade dacă paragraful este rescris masiv de un utilizator uman sau are o lungime redusă (sub 200 de tokeni).
Accesul la instrumentele de verificare și contextul legislativ
Pentru a preveni încercările de inginerie inversă și eludare a sistemului, instrumentul oficial de verificare și detectare a filigranului textGrain este oferit gradual organizațiilor partenere, cercetătorilor independenți și autorităților europene de reglementare.
Pentru dezvoltatorii globali care apelează modelele OpenAI prin interfețe de programare (API), marcarea textGrain este disponibilă ca opțiune configurabilă, însă rămâne dezactivată implicit în afara cadrului de reglementare european. Implementarea acestei tehnologii marchează tranziția inteligenței artificiale generative către o eră a trasabilității automate cerute de legislația europeană.
Articol documentat de redacția HD Satelit din surse publice.
Niciun comentariu