Prin dezvoltarea unei noi metode de analiză a înclinațiilor politice, dr. Fabio Motoki de la Norwich Business School de la Universitatea din East Anglia și cercetătorii din Brazilia au arătat că răspunsurile ChatGPT favorizează Partidul Democrat din Statele Unite, Partidul Laburist din Regatul Unit, și liderul Partidului Laburist din Brazilia, Lula da Silva.

„Pe măsură ce utilizarea sistemelor bazate pe inteligență artificială (AI) pentru a extrage date și a crea conținut nou devine tot mai populară, este important ca ceea ce este generat de platformele populare precum ChatGPT să fie cât mai imparțial posibil”, a comentat dr. Motoki.

În opinia sa, faptul că chatbot-ii tind să favorizeze anumite alegeri politice poate influența opiniile utilizatorilor și poate avea un impact potențial asupra proceselor și alegerilor politice.

„Descoperirile noastre confirmă îngrijorarea că sistemele bazate pe inteligență artificială ar putea replica sau chiar exacerba provocările existente create de internet și de rețelele sociale”, a adăugat dr. Motoki.

Cercetătorii au folosit un sistem pe care l-au dezvoltat pentru a evalua neutralitatea politică a chatbot-ului ChatGPT versiunea 3.5. Testele au avut loc în primăvara anului 2023. Întrebările au fost preluate din Testul Busolă Politică, care este folosit pentru examinarea opiniilor politice.

Platforma trebuia să prezinte personalitatea diferitelor figuri din scena politică și, în același timp, să răspundă la o serie de peste 60 de întrebări despre idei diferite. Apoi a fost comparat cu răspunsurile oferite de chatbot doar pe baza setărilor implicite. Acest lucru a permis cercetătorilor să evalueze măsura în care răspunsurile chatbot se corelează cu poziția politică a anumitor partide.

Pentru a evita erorile asociate cu răspunsurile aleatorii ale modelelor de limbaj mari bazate pe IA, fiecare întrebare a fost adresată de 100 de ori și au fost înregistrate răspunsuri diferite. Eșantioanele replicate au fost apoi extrase din eșantioanele de date originale (cunoscute ca reeșantionare a datelor). Ca urmare, fiabilitatea concluziilor trase a crescut.

„Am creat această procedură pentru că o singură rundă de testare nu este suficientă”, a explicat coautorul studiului Victor Rodrigues din Nova Iducacao (Brazilia).

Cercetătorii au efectuat și alte câteva teste pentru a se asigura că metoda lor este cât mai precisă posibil, inclusiv teste neutre din punct de vedere politic.

Sperăm că metoda noastră de cercetare și reglementare a acestor tehnologii care evoluează rapid ne va ajuta. Dr. Valdemar Pinho Neto de la Escola Brasileira de Economia e Financas a confirmat Prin permițând detectarea și corectarea părtinirilor LLM, ne propunem să îmbunătățim transparența, responsabilitatea și încrederea publicului în această tehnologie.

Noul instrument va fi disponibil public gratuit și relativ ușor de utilizat. Pe lângă verificarea înclinațiilor politice ale ChatGPT, acesta poate fi folosit și pentru a evalua alte tendințe în răspunsurile sale.

Deși cercetarea nu dezvăluie motivele preferințelor politice ale chatbot-ului, concluziile indică două surse. Una dintre ele ar putea fi aceeași bază de date folosită pentru a crea ChatGPT, sau conținut adăugat de oamenii care dezvoltă modelul, care nu a fost încă eliminat efectiv. O a doua sursă potențială ar putea fi algoritmul în sine, care amplifică tendințele curente raportate în baza de date. (PAP)

Joanna Morga

jjj / bar /