Cel puțin sute de contractori au analizat depunerile Copilot, conform documentelor
Pe scurt: Antreprenorii umani care examinează editorul de imagini Microsoft Copilot pot vedea solicitările utilizatorilor, fotografiile încărcate și editările generate de AI. Documentele arată că unele dintre aceste sarcini conțin materiale sexuale, tulburătoare sau potențial ilegale. Cu toate acestea, recenzenții nu sunt acolo pentru a semnala conținutul – sunt plătiți pentru a decide cât de bine a îndeplinit Copilot cererea.
Într-o misiune tipică, un antreprenor primește imaginea promptă și originală a utilizatorului, împreună cu două editări produse de Copilot și trebuie să decidă care versiune urmează mai bine instrucțiunile. Evaluarea acoperă patru domenii. Evaluatorii verifică dacă Copilot a finalizat editarea solicitată, a lăsat neschimbate părți nelegate ale imaginii, a evitat defectele vizibile și a produs o imagine puternică în general. Dacă promptul solicită sistemului să adauge o ceașcă la o masă, de exemplu, ceașca ar trebui să fie singura schimbare.
De asemenea, instrucțiunile revizuite de 404 Media le spun contractorilor să se bazeze pe judecata subiectivă. „Ai încredere în intuiția ta – când te uiți la cele două imagini editate una lângă alta, care dintre ele se simte imediat ca cea mai bună editată? Reacția ta instinctă ca privitor uman contează”, spune un set de instrucțiuni.
„Când aveți îndoieli, mergeți cu prima impresie”, continuă instrucțiunile. „Intuiția umană este bună la prinderea diferențelor subtile de calitate care sunt greu de articulat.”
Dar multe sarcini depășesc editarea de rutină a imaginilor. Contractorii au spus că au primit cereri de mărire a sânilor femeilor, scurtarea fustelor, dezvăluirea mai multor picioare sau plasarea oamenilor în poziții sexuale. Alte sarcini au inclus fotografii sub fustă, material pro-anorexie și imagini fetiș care implică personaje de desene animate pentru copii.
„Fețele sunt întotdeauna necenzurate și multe dintre îndemnuri sunt de natură sexuală și în mod îndoielnic de consens”, a declarat un contractant pentru 404 Media. Publicația a acordat anonimatul lucrătorului, deoarece persoanei nu avea voie să vorbească cu presa.
Evaluatorii nu sunt angajați pentru a modera acele solicitări sau pentru a determina dacă Copilot ar fi trebuit să le accepte. Sarcina lor este să judece calitatea răspunsului său. În unele cazuri, asta înseamnă să decideți care rezultat se potrivește mai bine cu solicitarea unui utilizator pentru o editare sexuală.
„Cine scrie aceste îndemnuri și cine decide că Copilot se concentrează acum pe generarea de porno? Este greu să iau lucrurile în serios când mă concentrez pe modelul care a generat dimensiunea potrivită a bustului sau ce femeie de vârstă mijlocie a fost pusă în poziția sexuală sugestivă”, a scris un contractor pe un mesaj intern.
Alți contractori au spus că uneori deschideau misiuni fără să știe ce conțin. „Tocmai am dat peste un set de imagini care consta din opt fotografii sub fusta”, a scris un recenzent în timp ce a cerut un avertisment privind conținutul nesigur. Alte postări au menționat un aparent sacrificiu de animale și solicitări care implică acte sau poziții sexuale. Un antreprenor a scris: „M-am retras”, după ce a întâlnit conținut pro-anorexie.
Documentele indică faptul că cel puțin sute de evaluatori umani văd uneori trimiterile Copilot. Aceasta înseamnă că fotografiile încărcate de utilizatori pentru editare pot fi vizualizate de un antreprenor ca parte a procesului Microsoft de evaluare a modelului.
Cel puțin o companie care angajează contractori pentru lucrare este Prolific, care oferă feedback uman pentru reglarea preferințelor, evaluările de siguranță și reperele AI. Orientările prolifice incluse în material recunosc că IA generativă poate expune lucrătorii la conținut la care cercetătorii nu se așteptau.
Prolific nu a răspuns la cererea de comentarii a 404 Media. Un purtător de cuvânt al Microsoft a declarat publicației: „Microsoft utilizează datele clienților așa cum sunt descrise în termenii noștri de utilizare, inclusiv pentru a ne îmbunătăți produsele și a ne impune codul de conduită”.
Companiile de tehnologie au folosit de multă vreme contractori pentru a modera conținutul online și a eticheta datele folosite pentru a instrui sistemele AI. Misiunile de Copilot descrise în documente servesc unui scop diferit. În loc să verifice materialul pentru siguranță, contractorii compară rezultatele pentru a ajuta la îmbunătățirea acurateței, consecvenței și a capacității editorului de imagini de a urma instrucțiunile.
