Dezvoltatorul LLM perturbă în mod activ utilizarea rău intenționată a modelelor sale AI
Doh! S -a dovedit că oricând eliberați ceva pe World Wide Web, unii oameni – de obicei multe multe – îl vor abuza. Așadar, probabil că nu este surprinzător faptul că oamenii abuzează de chatgpt în moduri împotriva politicilor și legilor de confidențialitate ale lui Openai. Dezvoltatorii au dificultăți în a prinde totul, dar își aduc ciocanul de interdicție atunci când o fac.
OpenAI a publicat recent un raport care a evidențiat unele tentative de judecată ale serviciului său ChatGPT. Dezvoltatorul i -a prins pe utilizatori din China, exploatând capacitățile de „raționament” ale Chatgpt pentru a dezvolta un instrument pentru a supraveghea platformele de socializare. Ei au cerut chatbot -ului să -i sfătuiască să creeze o strategie de afaceri și să verifice codificarea instrumentului.
Openai a menționat că misiunea sa este de a construi modele AI „democratice”, o tehnologie care ar trebui să beneficieze toată lumea prin aplicarea unor reguli de bun-simț. Compania a căutat în mod activ potențialele greșeli sau perturbări de către diverși părți interesate și a descris un cuplu care a ieșit din China.
Cel mai interesant caz implică un set de conturi ChatGPT axate pe dezvoltarea unui instrument de supraveghere. Conturile au folosit modelul AI Chatgpt pentru a genera descrieri detaliate și terenuri de vânzări pentru un instrument de ascultare a rețelelor de socializare.
Software-ul, alimentat de modele non-openai, ar genera rapoarte în timp real cu privire la protestele occidentale și le-ar trimite la serviciile de securitate chineze. Utilizatorii au folosit, de asemenea, ChatGPT pentru a depana codul instrumentului. Openai Policy interzice în mod explicit utilizarea tehnologiei sale AI pentru îndeplinirea sarcinilor de supraveghere, inclusiv monitorizarea neautorizată în numele regimurilor guvernamentale și autoritare. Dezvoltatorii au interzis aceste conturi pentru a ignora regulile platformei.
Actorii chinezi au încercat să -și ascundă locația folosind un VPN. De asemenea, au utilizat instrumente de acces la distanță, cum ar fi Anydesk și VoIP, să pară că lucrează din SUA. Cu toate acestea, conturile au urmat un model de timp în concordanță cu orele de lucru chinezești. Utilizatorii au solicitat, de asemenea, ChatGPT să folosească chineză. Instrumentul de supraveghere pe care îl dezvoltau a folosit modele AI de lama a lui Meta pentru a genera documente bazate pe supraveghere.
O altă instanță a abuzului de chatgpt a implicat utilizatori chinezi care generează rapoarte de performanță la sfârșitul anului pentru campanii de e-mail de phishing. De asemenea, Openai a interzis un cont care a profitat de LLM într -o campanie de dezinformare împotriva Cai Xia, un disident chinez care locuiește în prezent în SUA.
Ben Nimmo, investigatorul Openai Threat Intelligence a declarat pentru The New York Times că aceasta a fost prima dată când compania a prins oameni care încearcă să exploateze Chatgpt pentru a face un instrument de supraveghere bazat pe AI. Cu toate acestea, cu milioane de utilizatori care îl folosesc în principal din motive legitime, activitatea cibernetică este excepția, nu norma.
