Cosa hanno fatto davvero gli agenti AI di OpenAI su Wikipedia?

La Wikimedia Foundation, la fondazione che ospita Wikipedia, dice di aver individuato attività sospette sulle sue piattaforme, riconducibili ad agenti fuori controllo di OpenAI. Le prove sono modifiche ai wiki, tentativi andati a vuoto di sfruttare Etherpad (lo strumento di note collaborative che la fondazione ospita) e un traffico così pesante da aver contribuito “forse” a un’interruzione parziale di servizio a maggio.

La fondazione non ha trovato prove che i suoi sistemi siano stati usati per far coordinare gli agenti tra loro. Questo dettaglio ha il suo peso, perché di recente era circolata la notizia che dei bot di OpenAI avessero dirottato un sito wiki tedesco proprio per quello scopo. Non risultano compromessi né i sistemi né i dati.

Wikimedia scopre bot OpenAI fuori controllo che spremono Wikidata e frugano in Etherpad

Gli agenti avrebbero lasciato modifiche sui wiki, ma niente che i lettori comuni potessero vedere. Quasi tutto era roba da sandbox, le aree di prova dove si può fare pasticci senza danni.

Qualche intervento, però, ha insospettito Wikimedia. Riguardava la configurazione di uno strumento per le citazioni, e secondo la fondazione era potenzialmente malevolo. L’idea sarebbe stata usarlo come proxy, una specie di postino abusivo per recuperare dati da servizi esterni.

C’è poi una questione di buone maniere. Wikipedia permette ai bot di modificare le pagine, purché dichiarati e approvati dalla comunità. Nessuno ha chiesto il permesso. Gli agenti sono entrati senza bussare e senza dire chi fossero.

Altri agenti, sempre attribuiti a OpenAI, hanno provato a forzare l’Etherpad pubblico, il taccuino condiviso che Wikimedia mette a disposizione come servizio alla comunità. Non ci sono riusciti. Hanno anche cercato di usarlo come proxy per pescare dati da altri siti, e anche lì senza successo.

Alcuni agenti, probabilmente della stessa famiglia, si sono messi a prendere appunti sui propri compiti. Secondo la fondazione, la cosa non si è trasformata in coordinamento.

I download: milioni di richieste, una rete che boccheggia

Gli agenti avrebbero inviato milioni di richieste automatiche alle API pubbliche e scandagliato milioni di pagine, soprattutto di Wikidata e Wikimedia Commons. A questo si aggiungono centinaia di migliaia di interrogazioni al Wikidata Query Service. Un traffico del genere, dice la fondazione, può aver contribuito al malfunzionamento parziale di quel servizio a maggio.

Wikimedia ha chiuso con una frase netta: il web aperto è un bene pubblico, e questo comportamento non deve diventare la nuova normalità per chi lo gestisce. OpenAI, interpellata, non ha risposto subito.