Nu aveți încredere în rezumatele AI generative
Facepalm: Nu pentru prima dată, am văzut un alt exemplu de ce a lăsa AI generativă să preia fiecare aspect al vieții noastre ar fi o greșeală. Cu această ocazie, Apple Intelligence, care are o istorie de a comite erori semnificative, a creat un titlu fals. Acesta a susținut că Luigi Mangione, bărbatul arestat pentru uciderea CEO-ului UnitedHealthcare, Brian Thompson, s-a împușcat. Eroarea a făcut ca BBC să contacteze Apple, solicitând ca problema să fie corectată.
Una dintre caracteristicile Apple Intelligence este capacitatea sa de a rezuma notificările, care a fost introdusă pentru prima dată în iOS 18.1. Cupertino spune că rezumatele permit utilizatorilor să scaneze notificări lungi sau stivuite cu detalii cheie chiar pe ecranul de blocare, cum ar fi atunci când un chat de grup este deosebit de activ. Titlurile de știri apar și în aceste notificări condensate. Din păcate pentru utilizatori, aceștia nu apar întotdeauna corect.
Notificarea rezumată în cauză, publicată de BBC News, arată trei titluri. Cele despre răsturnarea regimului lui Bashar al-Assad în Siria și o actualizare despre președintele sud-coreean Yoon Suk Yeol sunt exacte. Partea despre care Mangione s-a împușcat nu este – el rămâne în custodia poliției.
BBC s-a plâns Apple despre titlul incorect, solicitând companiei să-l repare. „BBC News este cea mai de încredere mass-media de știri din lume”, a spus un purtător de cuvânt al BBC. „Este esențial pentru noi ca publicul nostru să aibă încredere în orice informație sau jurnalism publicată în numele nostru și care include notificări”.
Aceasta este departe de prima dată când notificările Apple au greșit. În iunie, a rezumat un raport despre care Curtea Penală Internațională a emis un mandat de arestare pentru premierul israelian Benjamin Netanyahu cu titlul „Netanyahu arestat”, ceea ce nu a fost.
Fosta platformă Twitter X a fost inundată de povești despre Apple Intelligence care a greșit recent. De la AI care rezumă o excursie „care m-a omorât” ca o „tentativă de sinucidere”, până la Soarele care se așteaptă să lovească Pământul mai târziu în cursul săptămânii (care provoacă întârzieri clienților Amtrak la sud de Baltimore), tehnologiile AI generative necesită încă supraveghere umană în multe instanțe.
Rezumatele notificărilor Loving Apple Intelligence pic.twitter.com/7IUsq0GPMy
– Neil Kimmett (@neilkimmett) 16 octombrie 2024
Pe lângă faptul că greșește complet astfel de lucruri, inteligența artificială generativă are și puțină apreciere pentru context. În octombrie, un dezvoltator din New York a primit o notificare rezumată de la partenerul său (de ziua lui) pe care scria: „Nu mai este într-o relație; vrea bunuri de la apartament”.
