Ce ar putea merge prost?
Un cartof fierbinte: În cel mai recent exemplu de utilizare a IA generativă pentru ceva pentru care probabil că AI nu ar trebui să fie folosită, Nevada urmează să devină primul stat care folosește tehnologia pentru a face recomandări cu privire la recursurile privind prestațiile de șomaj. Deoarece aceste sisteme sunt predispuse la erori, părtiniri și halucinații, există preocupări de înțeles cu privire la mutare. Faptul că instanțele ar putea să nu fie în măsură să anuleze hotărârile luate pe baza unei greșeli a AI agravează aceste temeri.
Sistemul AI generativ alimentat de Google din Nevada este programat să fie lansat în următoarele câteva luni, relatează Gizmodo. Funcția sa va fi să analizeze stenogramele audierilor de apel pentru șomaj și să emită recomandări oamenilor care dau un verdict final.
Departamentul pentru Ocuparea Forței de Muncă, Instruire și Reabilitare (DETR) din Nevada a plătit Google 1.383.838 USD pentru tehnologia AI, care folosește un serviciu cloud Google numit Vertex AI Studio. Acesta va genera recomandări bazate pe transcrierea contestațiilor și hotărârilor la audierea șomajului, comparând informațiile cu cazurile anterioare.
Sistemul este introdus pentru a accelera procesul de contestație. Carl Stanfield, administratorul DETR pentru tehnologia informației, a spus că angajații le ia în medie aproximativ trei ore pentru a scrie o decizie. Sistemul AI va reduce acest lucru la doar cinci minute în unele cazuri. Acest lucru ar putea fi util în special în Nevada, care are un stoc de peste 40.000 de contestații rezultate din creșterea cererilor de șomaj în timpul pandemiei.
Dezavantajul, desigur, este că AI generativă rămâne notorie pentru că dezvăluie minciuni și, în general, inventează lucruri. DETR spune că recomandările făcute de AI-ul său vor fi revizuite de cel puțin un om. Dacă persoana este de acord, decizia va fi aprobată. Dacă nu, documentul va fi revizuit și agenția va investiga ce s-a întâmplat.
„Nu există inteligență artificială (decizii scrise) care să dispară fără a avea interacțiune umană și acea revizuire umană”, a spus directorul DETR, Christopher Sewell.
Google a spus că va colabora cu Nevada pentru a „identifica și aborda orice posibilă părtinire” și pentru a „ajuta să respecte cerințele federale și de stat”.
Există îngrijorări că angajații DETR se vor simți forțați să-și grăbească recenziile cu privire la recomandările AI, eliminând astfel mai repede restanța. Este deosebit de îngrijorător, deoarece acest lucru ar putea afecta capacitatea reclamantului de a face apel la un caz.
„În cazurile care implică întrebări de fapt, instanța districtuală nu poate înlocui propria hotărâre cu hotărârea arbitrului de apel”, a declarat Elizabeth Carmona, avocat senior la Nevada Legal Services, pentru Gizmodo. Aceasta înseamnă că o instanță ar putea să nu poată anula o decizie umană bazată pe o eroare AI. Probabil că ar fi dificil să identificăm și unde a provenit o eroare.
În ciuda acestor preocupări legitime, nu fi surprins să vezi că mai multe state încep să folosească AI pentru a accelera procesele, ajutând la luarea deciziilor importante.
