Pe 20 iulie, OpenAI, compania care a creat tehnologia de inteligență artificială Chat GPT, a luat o decizie surprinzătoare: a oprit dezvoltarea unui instrument destinat să diferențieze textele scrise de oameni de cele generate de IA. Motivul invocat? Rata scăzută de precizie. Aceasta ridică întrebări importante: este imposibil ca o astfel de tehnologie să fie creată cu instrumentele disponibile astăzi sau este vorba despre o lipsă de resurse și perseverență din partea celor care au creat un sistem atât de puternic?
Lansarea Chat GPT în noiembrie 2022 a zguduit lumea, oferind un model de limbaj AI capabil să genereze texte de tip uman și să participe la dialoguri complexe. De atunci, guvernele, autoritățile de reglementare, dar și mediul academic s-au arătat tot mai îngrijorate de impactul acestei tehnologii asupra societății. Cu toate acestea, reglementarea utilizării IA rămâne un subiect dificil de abordat și o provocare globală.
Un Instrument pentru a Discrimina Textele Scrise de Oameni și Cele Generate de IA: Care Este Eficiența sa?
La sfârșitul lunii ianuarie 2023, OpenAI a lansat OpenAI AI Text Classifier, un instrument destinat să identifice textele scrise de oameni față de cele generate de IA. Potrivit unui purtător de cuvânt al companiei, scopul acestui instrument era să adune feedback cu privire la utilitatea unor astfel de tehnologii, promițându-se îmbunătățiri în viitor. La acea vreme, însă, Text Classifier nu se dovedea a fi foarte eficient, având un procent de precizie de doar 26%. Cu toate acestea, OpenAI susținea că, prin combinarea acestui instrument cu alte metode, rezultatele ar putea fi îmbunătățite.
Modul de funcționare al acestui instrument se baza pe probabilitatea ca un text să fi fost scris de o inteligență artificială, iar răspunsurile pe care le oferea erau etichete precum „foarte puțin probabil”, „puțin probabil”, „incert”, „posibil” sau „probabil”.
OpenAI Își Optează Dezvoltarea Instrumentului pentru Discriminarea Textelor
Una dintre principalele probleme ale Text Classifier a fost faptul că, de multe ori, eticheta unui text scris de un om era greșit atribuită unui text generat de IA. Însă cel mai mare impediment, care a dus la întreruperea proiectului, a fost imposibilitatea de a îmbunătăți rata de precizie, care a rămas mult prea scăzută pentru a oferi răspunsuri utile.
Într-un comunicat, OpenAI a menționat că va continua să cerceteze tehnici mai eficiente pentru a identifica sursa unui text și că sunt în curs de dezvoltare metode pentru a ajuta utilizatorii să înțeleagă dacă un conținut audio sau vizual este generat de inteligența artificială.
Deocamdată, discuțiile despre reglementarea IA continuă la nivel global, în condițiile în care tehnologii precum Chat GPT și Gemini de la Google devin din ce în ce mai prezente. Se pare că, în ciuda faptului că OpenAI a fost pionierul în introducerea acestor instrumente în societate, compania însăși nu are încă soluțiile necesare pentru a le controla și reglementa eficient.
