Sistemul de moderare se va extinde în mai multe limbi când apare Black Ops 6
Pe scurt: Au apărut multe speculații cu privire la posibilele beneficii pe care tehnologii precum AI generativă și învățarea automată le-ar putea aduce jocurilor video. În timp ce reconstrucția imaginilor s-a dovedit utilă, iar AI generativă a intrat în procesul de producție, analiza bazată pe inteligență artificială a început să aibă un impact asupra moderarii chat-ului vocal în spațiile de jocuri competitive.
Activision Blizzard raportează că expunerea la chatul vocal toxic în Call of Duty a scăzut cu 43% de la începutul acestui an. Editorul merită implementarea recentă a moderării bazate pe AI pentru rezultate, care l-au convins să-și extindă utilizarea atunci când Call of Duty: Black Ops 6 va fi lansat pe 25 octombrie.
Editorul l-a prezentat pe moderator, ToxMod, când a lansat Call of Duty: Modern Warfare III în noiembrie anul trecut. Potrivit site-ului web ToxMod, sistemul analizează transcrierea textului chatului vocal din joc și detectează cuvintele cheie pe baza mai multor factori.
Pentru a face diferența dintre vorbe de gunoi și hărțuire, ToxMod monitorizează cuvintele cheie și reacțiile la comentarii, recunoscând emoțiile jucătorilor și înțelegând codul de conduită al jocului. În plus, sistemul estimează vârsta și sexul perceput al vorbitorului și al destinatarilor pentru a înțelege mai bine contextul fiecărei conversații.
ToxMod nu poate interzice pe nimeni singur, dar poate semnala rapid încălcările pentru a fi examinate de moderatorii umani. Activision decide atunci dacă îi avertizează sau îi mută pe jucători, eliberând doar interdicții după infracțiuni repetate. Numărul de recidivă în Modern Warfare III și Call of Duty: Warzone a scăzut cu 67% de când Activision a implementat îmbunătățiri în iunie 2024. Numai în iulie, 80% dintre jucătorii prinși încalcând regulile chat-ului vocal nu au recidivit.
Toate regiunile, cu excepția Asiei, acceptă în prezent ToxMod, iar Call of Duty utilizează sistemul pentru a modera chatul vocal în engleză, spaniolă și portugheză. Când se lansează Black Ops 6, Activision va adăuga suport pentru franceză și germană.
Între timp, chatul pe bază de text și moderarea numelor de utilizator s-au extins de la 14 la 20 de limbi în august. Community Sift a fost partenerul de moderare a textului Call of Duty de la primul joc de repornire Modern Warfare lansat în 2019, blocând 45 de milioane de mesaje de la lansarea lui Modern Warfare III în noiembrie.
Utilizarea AI pentru a modera comportamentul jucătorului este mult mai puțin controversată decât utilizarea tehnologiei pentru activele din joc. La sfârșitul anului trecut, arta generată de AI a apărut în skin-urile de conținut pentru Modern Warfare III. Pe fondul numărului istoric de concedieri din industria jocurilor de noroc care au loc în acea perioadă, unii se tem că editorii vor încerca să înlocuiască artiștii cu modele AI.
