(Acest articol a fost publicat pentru prima dată pe R / Noteși cu amabilitate a contribuit la R-bloggeri). (Puteți raporta problema legată de conținutul acestei pagini aici)
Doriți să vă distribuiți conținutul pe R-bloggeri? dați clic aici dacă aveți un blog, sau aici dacă nu aveți.
Această postare conține opiniile mele actuale despre inteligența artificială generativă și, în special, despre modelele de limbaj mari. Contextul este în mare parte mediul academic, care este despre cercetare și predare.
Inteligența artificială generativă se strecoară încet în fluxul meu de lucru profesional, nu pentru că o folosesc eu însumi (nu o fac, deși bănuiesc că o voi face, la un moment dat), ci pentru că toată lumea din jurul meu este.
Elevii mei folosesc ChatGPT și alte instrumente precum, cred, NotebookLM și Perplexity Comet. Fluxul meu de știri RSS (atât de vârsta am) a avut recent un articol despre Claude și folosesc aplicații Google, așa că mi se cere în mod pasiv-agresiv să folosesc Gemini, ceea ce aș putea face într-o zi prin Scholar Labs.
Locul meu de muncă, care este o universitate, a adoptat o poziție foarte elementară cu privire la IA generativă: cu excepția cazului în care se specifică altfel, studenții trebuie să urmeze poziția 1 LSE (fără folosirea AI generativă în munca calificată), care presupun că merge în ambele sensuri (nici o utilizare a AI generativă în notare).
Nu cunosc nicio poziție echivalentă cu privire la IA generativă în cercetare. Se pare că toată lumea vrea să discute subiectul și să se joace cu tot ce este disponibil gratuit online, dar nimeni nu vrea să ia încă decizii grele în acest sens, posibil din cauza viitoarelor reglementări la nivelul UE.
Din punct de vedere didactic, IA generativă îmi este utilă doar dacă îi ajută pe studenți să treacă prin următorul proces:
- Învăţa
- Proiect
- Revizui
- Trimiteți
- Apăra
O parte din ceea ce predau este codul, iar codul este subiectul acestui blog. După cum se întâmplă, IA generativă este deja foarte bună cu codul și sunt încrezător că poate fi folosită pentru a parcurge pașii 1-3 ai procesului de mai sus.
Există, totuși, cel puțin patru motive pentru care în prezent iau „LSE Poziția 1” cu privire la utilizarea AI generativă în munca gradată care se bazează pe cod:
- Mulți studenți folosesc AI pentru a ocoli procesul de învățare, mai degrabă decât pentru a-l îmbunătăți. Acest lucru creează riscuri de securitate și încalcă etica academică în același mod în care ar face angajarea unei părți externe. Acest lucru vine pe lângă alte încălcări ale eticii studenților, cum ar fi plagiatul.
- Cele două probleme menționate la punctul anterior nu poate fi apărat împotriva la nivelul meu, cel puțin nu cu resursele mele actuale. Pot identifica riscurile de securitate, dar nu pot detecta în mod fiabil codul generat de AI, care nu este nici filigranat, nici scanat prin instrumente anti-plagiat.
- Software-ul pe care îl folosesc în clasă este în mare parte open-source și reproductibilitatea face parte din principiile de bază pe care le predau la clasă. Din câte înțeleg, și dacă nu se dovedește altfel, tipul de tehnologie AI generativă folosită de studenții mei nu aplică aceste principii.
- Pentru a înrăutăți lucrurile, majoritatea AI generativă încalcă și ele proprietate intelectualămai degrabă decât să o reconfigureze în jurul principiilor „copyleft” și „creative commons” pe care mulți dintre noi le-am petrecut ani de zile apărând și susținând în domenii precum publicarea academică.
Nu am fost expus niciunui argument care să încerce să rezolv problemele etice, logistice, morale și eventual juridice pe care le-am subliniat mai sus. Până o fac, voi trata IA generativă ca pe o formă de dopaj și o voi continua să o interzic.
Analogia de mai sus cu dopajul nu este una nevinovată. Există, din punctul meu de vedere, un arc retoric foarte real care merge de la IA generativă la Jocurile îmbunătățite. Învățământul superior nu aprobă studenții să ia Adderall și nici eu.
Din perspectiva cercetării, IA generativă îmi este utilă numai dacă mă ajută să trec prin următorul proces:
- Compilați existente dovezi
- Colectați semnificativ date
- Produce semnificativ măsuri
- Formulați corect interpretări
- Îmbunătățiți existentul cunoştinţe
Nu există nicio îndoială că AI generativă poate ajuta cu fiecare pas de mai sus, mai ales poate la nivelul colectării datelor și, în cazul „big data” sau cum le numesc oamenii astăzi, clasificare. De asemenea, sunt foarte interesat de ceea ce poate contribui în ceea ce privește compilarea studiilor științifice, în același mod în care ajută deja la problemele matematice.
Riscurile despre care am auzit până acum când vine vorba de IA generativă și cercetarea în științe sociale (care este ceea ce fac eu) sunt următoarele:
- AI generativ poate otrăvește baza de dovezi (Bail 2024) prin producția în masă de rezultate academice de calitate scăzută sau prin compromiterea datelor, cum ar fi sondaje online (Westwood 2025, Westwood și Frederick 2026). Acest lucru se întâmplă deja.
- AI generativă nu produce încă adnotări de date fiabile pentru tipul de date care mă interesează (Yang et al. 2025), și chiar dacă fiabilitatea sa de codare se îmbunătățește, va necesita efort suplimentar pentru a atenua problemele conexe (Baumann et al. 2025).
- În mod similar, IA generativă nu se poate îmbunătăți organic dacă își menține părtinire umană față de dovezi produse în Nordul Global (Ramirez-Ruiz și Senninger 2025), în mare parte de către indivizi „ciudați” (Atari et al. 2023). Acest lucru va fi greu și lent de rezolvat.
- Nu în ultimul rând, IA generativă va fi obișnuită erodează autoritatea științifică în profitul celor care sunt interesați să atace contribuția pe care instituțiile științifice (și de învățământ superior) o fac societății. Desigur, aceasta este departe de a fi o problemă banală.
Problemele enumerate sunt toate reale, greu de rezolvat și sunt controversate în măsura în care unii oameni au un interes personal să le vadă nu abordată, cel puțin nu pe termen scurt.
Niciuna dintre aceste probleme nu mă va împiedica să instalez și să încerc ellmer într-o zi. Cu toate acestea, mă aștept ca acest lucru să se întâmple într-un mediu științific care va fi recunoscut fiecare problemă într-un fel sau altul și a formulat linii directoare pentru a le aborda.
Suntem încă acolo?
Această postare a fost inspirată de „manifestul” /ai, pe care l-am descoperit datorită lui Andrew Heiss. Am obținut unele dintre referințele citate prin postarea de blog a lui Jessica Hullman „Nou curs de IA generativă pentru știința comportamentală”.
