Și a petrecut 21 de ani în închisoare pentru crimă
WTF?! Chiar dacă AI generativ devine mai răspândit, sistemele rămân predispuse la halucinații. Sfătuirea oamenilor să pună lipici pe pizza și să mănânce roci este un lucru, dar chatgpt spunând în mod fals unui bărbat că a petrecut 21 de ani în închisoare pentru că i -a ucis pe cei doi fii ai săi este mult mai grav.
National Nation National Arve Hjalmar Holmen a contactat Autoritatea norvegiană de protecție a datelor după ce a decis să vadă ce știa Chatgpt despre el.
Chatbot -ul a răspuns în mod obișnuit de încredere, afirmând în mod fals că Holmen a ucis doi dintre fiii săi și a încercat să -și ucidă al treilea fiu. Acesta a adăugat că a fost condamnat la 21 de ani de închisoare pentru aceste infracțiuni false.
În timp ce povestea era în întregime fabricată, au existat elemente din viața lui Holmen pe care Chatgpt au avut -o corectă, inclusiv numărul și sexul copiilor săi, vârstele lor aproximative și numele orașului natal, făcând afirmațiile false despre crimă cu atât mai sinistre.
Holmen spune că nu a fost niciodată acuzat și nici condamnat pentru vreo crimă și este un cetățean conștiincios.
Holmen a contactat grupul pentru drepturile de confidențialitate Noyb despre halucinație. Acesta a efectuat cercetări pentru a se asigura că ChatGPT nu -i face pe Holmen să se amestece cu altcineva, eventual cu un nume similar. De asemenea, grupul a verificat arhivele de ziare, dar nu a fost nimic evident care să sugereze de ce chatbot -ul constituia această poveste groaznică.
De atunci Chatgpt’s LLM a fost actualizat, astfel încât nu mai repetă povestea când a fost întrebat despre Holmen. Dar Noyb, care s -a confruntat cu OpenAI în trecut, în ceea ce privește ChatGPT, oferind informații false despre oameni, a depus încă o plângere la Autoritatea norvegiană de protecție a datelor, DatilSynet.
Conform plângerii, OpenAI a încălcat regulile GDPR conform cărora companiile de stat care prelucrează datele cu caracter personal trebuie să se asigure că este corectă. Dacă aceste detalii nu sunt corecte, acestea trebuie corectate sau șterse. Cu toate acestea, NOYB susține că, pe măsură ce ChatGPT alimentează datele utilizatorilor în sistem în scopuri de instruire, nu există nicio modalitate de a fi sigur că datele incorecte au fost eliminate complet din setul de date al LLM.
NOYB susține, de asemenea, că ChatGPT nu respectă articolul 15 din GDPR, ceea ce înseamnă că nu există nicio garanție pe care o puteți aminti sau vedea fiecare Date despre o persoană care a fost introdusă într -un set de date. „Acest fapt, în mod clar, provoacă încă suferință și frică pentru reclamant, (Holmen)”, a scris Noyb.
NOYB solicită DatilSynet să ordone OpenAI să șteargă datele defăimătoare despre Holmen și să regleze modelul său pentru a elimina rezultatele inexacte despre indivizi, ceea ce nu ar fi o sarcină simplă.
În momentul de față, metoda lui Openai de a -și acoperi spatele în aceste situații este limitată la o mică excludere din partea de jos a paginii lui Chatgpt care afirmă: „Chatgpt poate face greșeli. Verificați informațiile importante”, cum ar fi dacă cineva este un criminal dublu.
