Apple încă nu a răspuns
Ce tocmai sa întâmplat? La doar câteva zile după ce instrumentul de rezumat al notificărilor alimentat de AI de la Apple a scos un titlu fals al BBC despre Luigi Mangione, un organism comercial important îndeamnă compania să elimine complet această funcție. Acesta marchează cel mai recent eșec în încercările Apple de a-și convinge clienții că AI-ul său merită folosit.
Pe 13 decembrie, Apple Intelligence, care a făcut erori semnificative atunci când vine vorba de rezumarea notificărilor, a lansat un rezumat al mai multor titluri BBC care includea afirmația că Mangione s-a împușcat. Incidentul a avut loc la doar 48 de ore după lansarea Apple Intelligence în Marea Britanie.
Prin amabilitatea BBC News
Mangione, care a fost arestat și acuzat de uciderea de gradul I a CEO-ului UnitedHealthcare, Brian Thompson, la New York, nu s-a împușcat. El rămâne în arest la Instituția Corecțională de Stat Huntingdon din județul Huntingdon, Pennsylvania.
Cu siguranță nu este prima dată când Apple Intelligence primește o notificare rezumată greșită. Anterior susținea că premierul israelian Benjamin Netanyahu a fost arestat după ce Curtea Penală Internațională a emis un mandat de arestare.
Reporters Without Borders (RSF), un ONG internațional non-profit care se concentrează pe protejarea dreptului la libertatea de informare, solicită Apple să dezactiveze funcția de rezumat al notificărilor.
RSF scrie că incidentul ilustrează modul în care serviciile AI generative sunt încă prea imature pentru a produce informații fiabile pentru public și nu ar trebui să fie permise pe piață pentru astfel de utilizări.
Grupul a adăugat că modul probabilistic în care funcționează sistemele AI le descalifică automat ca o tehnologie de încredere pentru mass-media de știri.
„AI sunt mașini de probabilitate, iar faptele nu pot fi decise printr-o aruncare a zarurilor. RSF solicită Apple să acționeze în mod responsabil prin eliminarea acestei caracteristici. Producerea automată de informații false atribuite unui mijloc de presă este o lovitură pentru credibilitatea instituției. și un pericol pentru dreptul publicului la informații fiabile cu privire la actualitatea”, a declarat Vincent Berthier, șeful Biroului Tehnologie și Jurnalism al RSF.
„Legea europeană privind inteligența artificială – în ciuda faptului că este cea mai avansată legislație din lume în acest domeniu – nu a clasificat IA generatoare de informații ca sisteme cu risc ridicat, lăsând un vid juridic critic. Acest gol trebuie completat imediat”.
BBC a contactat Apple când a aflat despre titlul fals pentru a ridica îngrijorări și a cere companiei să remedieze problema.
Notificarea rezumată în cauză arăta trei titluri: cel fals despre Mangione și două titluri corecte, despre răsturnarea regimului lui Bashar al-Assad din Siria și o actualizare despre președintele sud-coreean Yoon Suk Yeol.
Apple spune că capacitatea sa de rezumare a AI le permite utilizatorilor să scaneze notificări lungi sau stivuite cu detalii cheie chiar pe ecranul de blocare, cum ar fi atunci când un chat de grup este deosebit de activ. Adesea, rezumatele sunt greșite sau nu le înțelege contextul, uneori într-un mod hilar.
Spunerea titlurilor de știri false va pune întotdeauna Apple în probleme, mai ales într-un moment în care companiile încearcă să convingă oamenii că AI este viitorul aproape a tuturor. Apple încă nu a răspuns incidentului, dar nu vă așteptați să elimine definitiv funcția. Cel mult, Cupertino ar putea să-l dezactiveze pentru o perioadă.
