Costul inventarii lucrurilor
Pe scurt: Puteți întreba ChatGPT aproape orice și, în majoritatea cazurilor, vă va oferi un răspuns. Dar există o mână de nume care fac ca modelul de limbaj AI să se defecteze. Motivele pentru care se referă la tendința AI generativă de a inventa lucrurile – și consecințele juridice atunci când subiecții sunt oameni.
Utilizatorii rețelelor sociale au descoperit recent că introducând numele „David Mayer” în ChatGPT, sistemul a refuzat să răspundă și să încheie sesiunea. 404Media a descoperit că același lucru s-a întâmplat atunci când a fost întrebat despre „Jonathan Zittrain”, un profesor de la Facultatea de Drept de la Harvard, și „Jonathan Turley”, un profesor de la Facultatea de Drept de la Universitatea George Washington.
Câteva alte nume determină, de asemenea, ChatGPT să răspundă cu „Nu pot produce un răspuns” și „A apărut o eroare la generarea unui răspuns”. Chiar și încercând trucurile obișnuite, cum ar fi introducerea numelui înapoi și solicitarea programului să-l imprime de la dreapta la stânga, nu funcționează.
ArsTechnica a produs o listă de nume care depășesc ChatGPT. David Mayer nu mai uimește chatbot-ul, dar aceștia o fac: Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber și Guido Scorza.
Motivul acestui comportament provine din halucinațiile AI prea familiare. Brian Hood a amenințat că va da în judecată OpenAI în 2023, când a susținut în mod fals că primarul australian a fost închis pentru luare de mită – în realitate, el a fost un denunțător. OpenAI a acceptat în cele din urmă să filtreze declarațiile neadevărate, adăugând un filtru codificat pe numele său.
ChatGPT a susținut în mod fals că Turley a fost implicat într-un scandal de hărțuire sexuală inexistent. A citat chiar și un articol de la Washington Post în răspunsul său. Articolul a fost alcătuit și de AI. Turley a spus că nu a amenințat niciodată că va da în judecată OpenAI și compania nu l-a contactat niciodată.
Nu există niciun motiv evident pentru care numele lui Zittrain este blocat. El a scris recent un articol în Atlantic intitulat „Trebuie să controlăm agenții AI acum” și, la fel ca Turley, a fost citat munca lui în procesul de drept de autor al New York Times împotriva OpenAI și Microsoft. Cu toate acestea, introducerea numelor altor autori a căror lucrare este, de asemenea, citată în proces nu provoacă ruperea ChatGPT.
De ce David Mayer a fost blocat și apoi deblocat este, de asemenea, neclar. Există unii care cred că este legat de David Mayer de Rothschild, deși nu există dovezi în acest sens.
Ars subliniază că aceste filtre hard-coded pot cauza probleme utilizatorilor ChatGPT. S-a arătat cum un atacator ar putea întrerupe o sesiune folosind o injecție vizuală promptă a unuia dintre numele redate într-un font abia lizibil încorporat într-o imagine. Mai mult, cineva ar putea exploata blocurile adăugând unul dintre nume pe un site web, împiedicând astfel ChatGPT să prelucreze datele pe care le conține – deși nu toată lumea ar putea vedea asta ca pe un lucru rău.
În știri similare, mai multe companii canadiene de știri și media și-au unit forțele pentru a da în judecată OpenAI pentru că și-au folosit articolele fără permisiune și cer 20.000 USD (14.239 USD) per încălcare – ceea ce înseamnă că o pierdere judiciară ar putea costa firma de miliarde.
