Într -un test de 287.000 de imagini, oamenii au obținut în regulă doar 63% din timp
Prin paharul cu aspect: Când au apărut pentru prima dată generatoarele de imagini AI, dezinformarea a devenit imediat o preocupare majoră. Deși expunerea repetată la imagini generate de AI poate construi o anumită rezistență, un studiu Microsoft recent sugerează că anumite tipuri de imagini reale și false pot înșela aproape aproape oricui.
Studiul a descoperit că oamenii pot distinge cu exactitate fotografiile reale de cele generate de AI aproximativ 63% din timp. În schimb, se pare că instrumentul de detectare a AI-ului în dezvoltare Microsoft atinge o rată de succes de 95%.
Pentru a explora acest lucru în continuare, Microsoft a creat un test online (realornotquiz.com), care a prezentat 15 imagini selectate aleatoriu din bibliotecile foto de stoc și diverse modele AI. Studiul a analizat 287.000 de imagini vizualizate de 12.500 de participanți din întreaga lume.
Participanții au avut cel mai mare succes la identificarea imaginilor generate de AI, cu o rată de precizie de 65%. Cu toate acestea, cele mai convingătoare imagini false au fost Gan Deepfakes care au arătat doar profiluri faciale sau au utilizat internarea pentru a introduce elemente generate de AI în fotografii reale.
În ciuda faptului că este una dintre cele mai vechi forme de imagini generate de AI, Gan Deepfakes (rețele adversale generative) încă păcăleau aproximativ 55% dintre spectatori. Acest lucru se datorează parțial deoarece conțin mai puține detalii pe care generatoarele de imagini se luptă de obicei să le reproducă. În mod ironic, asemănarea lor cu fotografiile de calitate scăzută le face adesea mai credibile.
Cercetătorii consideră că popularitatea din ce în ce mai mare a generatoarelor de imagini i -a făcut pe spectatori mai familiarizați cu estetica excesiv de netedă pe care aceste instrumente o produc adesea. Promparea AI să imite fotografia autentică poate contribui la reducerea acestui efect.
Unii utilizatori au descoperit că inclusiv numele de fișiere de imagine generice în prompturi au obținut rezultate mai realiste. Chiar și așa, majoritatea acestor imagini seamănă încă cu fotografii lustruite, de calitate a studioului, care pot părea în afara locului în contexte casual sau candide. În schimb, câteva exemple din studiul Microsoft arată că Flux Pro poate reproduce fotografia amatorilor, producând imagini care arată ca și cum ar fi fost luate cu o cameră tipică pentru smartphone.
Participanții au avut puțin mai puțin succes la identificarea imaginilor generate de AI ale peisajelor naturale sau urbane care nu includeau oameni. De exemplu, cele două imagini false cu cele mai mici rate de identificare (21% și 23%) au fost generate folosind prompturi care au încorporat fotografii reale pentru a ghida compoziția. Cele mai convingătoare imagini AI au menținut, de asemenea, niveluri de zgomot, luminozitate și entropie similare cu cele găsite în fotografiile reale.
Surprinzător, cele trei imagini cu cele mai mici rate de identificare în general: 12%, 14%și 18%, au fost de fapt fotografii reale pe care participanții le -au identificat greșit drept false. Toți trei au arătat armata americană în setări neobișnuite, cu iluminare neobișnuită, culori și viteze de obturare.
Microsoft observă că înțelegerea solicitărilor sunt cel mai probabil să păcălească spectatorii ar putea face ca dezinformarea viitoare să fie și mai convingătoare. Compania evidențiază studiul ca o amintire a importanței etichetării clare pentru imaginile generate de AI.
