Alcuni sviluppatori vogliono modelli IA senza censura

Alcuni sviluppatori vogliono modelli IA senza censura

Alcuni sviluppatori hanno modificato il modello di IA generativa di Meta (Llama 2) per eliminare i filtri e ottenere risposte senza censura.
Alcuni sviluppatori vogliono modelli IA senza censura
Alcuni sviluppatori hanno modificato il modello di IA generativa di Meta (Llama 2) per eliminare i filtri e ottenere risposte senza censura.

Molti paesi cercano di regolamentare l’intelligenza artificiale generativa per cercare di bloccare gli eventuali abusi della tecnologia. Le stesse aziende, tra cui OpenAI, Microsoft e Google, aggiungono vari filtri per evitare risposte pericolose. Tuttavia, alcuni sviluppatori vogliono modelli IA senza censure per poter accedere alle complete possibilità creative dell’intelligenza artificiale.

Large Language Model senza filtri

I modelli di IA generativa sono addestrati con quantità enormi di dati, ma prima di renderli accessibili a tutti (ad esempio tramite ChatGPT) è previsto un “fine tuning” con esempi di risposte appropriate, utili e rilevanti. L’azienda che sviluppa il modello segue specifiche regole per garantire la sicurezza. Gli output non dovrebbero includere false informazioni, contenuti “tossici” e suggerimenti pericolosi, ad esempio come ottenere una sostanza stupefacente.

Quando l’utente inserisce input su argomenti vietati, il chatbot si rifiuta di rispondere. Alcuni sviluppatori ritengono che OpenAI, Meta, Google e altre aziende non dovrebbero decidere cosa è vietato. Per questo motivo sono state realizzate versioni modificate di modelli esistenti senza filtri. Uno dei LLM (Large Language Model) più utilizzati a tale scopo è Llama2 di Meta, in quanto è open source. Molti modelli senza censura sono disponibili su Hugging Face.

Un modello IA è solo un mezzo per evitare la ricerca di informazioni su Internet. Se qualcuno vuole costruire una bomba troverà ugualmente le istruzioni online. Ecco perché alcuni sviluppatori affermano che i filtri impediscono di sfruttare tutto il potenziale dell’intelligenza artificiale generativa. Un ricercatore di OpenAI ha dichiarato che il modello più sicuro è quello che si rifiuta di eseguire qualsiasi attività, ma non serve a nulla.

Fonte: The Atlantic
Link copiato negli appunti

Ti potrebbe interessare

Pubblicato il 27 nov 2023
Link copiato negli appunti