Microsoft Copilot a fost aprobat pentru documente, dar nu pentru luarea deciziilor de investigație
Facepalm: Majoritatea oamenilor știu deja că există anumite sarcini în care într-adevăr nu ar trebui să te bazezi pe AI, în special pe cele care se ocupă de chestiuni sensibile. Ar trebui să fie o mică surpriză, așadar, să afle că un detectiv de poliție din Marea Britanie este investigat din cauza acuzațiilor că a folosit Copilot pentru a ajuta la luarea deciziilor în anchetele penale.
Ofițerul superior al Poliției din Derbyshire se confruntă cu o investigație din partea Oficiului Independent pentru Conduita Poliției (IOPC) pentru o presupusă abatere gravă. Potrivit BBC, ancheta a început în august, în urma unei sesizări voluntare din partea forței pe 23 iunie, după o analiză internă a utilizării AI de către detectiv.
Acuzațiile merg dincolo de a cere asistentului Microsoft să verifice unele propoziții pentru erori de ortografie și gramatică. Ofițerul ar fi folosit inteligența artificială pentru a formula decizii de politică, a evalua și gestiona riscul și a justifica deciziile în timpul anchetelor penale. Aceștia sunt, de asemenea, acuzați că au introdus în instrument informații operaționale și personale sensibile referitoare la cazuri.
Derbyshire a aprobat de fapt Copilot pentru ca ofițeri să-l folosească în mai 2025. Acesta era menit să ajute la sarcini precum redactarea rapoartelor și rezumarea informațiilor. Cu toate acestea, această permisiune a venit cu condiții care interziceau introducerea de date operaționale, sensibile sau personale.
Emily Barry, directorul de angajament al IOPC, a declarat: „Aceste acuzații sunt serioase și este corect să fie investigate amănunțit și independent”.
Anchetatorii vor examina utilizarea Copilotului de către detectiv între mai 2025 și iunie 2026 pentru a determina dacă standardele profesionale au fost încălcate. Ofițerul a primit o notificare de abatere gravă, dar nu a fost făcută nicio constatare.
Inteligența artificială și-a făcut deja loc în documentele poliției în altă parte. S-a raportat anterior că departamentele de poliție din SUA adoptau Draft One a lui Axon, care generează schițe de rapoarte din sunetul camerei corporale. Ofițerii au fost obligați să verifice și să aprobe rezultatele, deși au rămas preocupări cu privire la informațiile inexacte și o dependență tot mai mare de scrierea automată.
La începutul acestui an, a existat un exemplu bizar de inteligență artificială care a greșit documentele poliției. Un raport generat de inteligență artificială din Utah a susținut că un ofițer s-a transformat într-o broască după ce software-ul a preluat sunetul de la Disney prințesa și broasca care se juca în fundal. Un om a prins greșeala înainte ca raportul să fie transmis.
Elementul de date sensibile aduce în minte și experiența Samsung în 2023, când angajații au trimis cod confidențial și informații despre întâlnire la ChatGPT. După cum sa raportat la acea vreme, încercările de a accelera munca de rutină au ajuns să transmită informații despre companie unui serviciu extern.
