Private Safety Processing: sicurezza per i modelli di OpenAI

OpenAI ha annunciato l’avvio dei test per il servizio Private Safety Processing. Consente di identificare un uso vietato dei modelli AI da parte dei clienti, garantendo sempre l’impegno Zero Data Retention (ZDR). I dipendenti dell’azienda californiana non avranno quindi accesso a dati sensibili, ma riceveranno solo un avviso relativo al possibile abuso.

Come funziona Private Safety Processing

In base all’impegno Zero Data Retention (ZDR), OpenAI non conserva i prompt e le risposte di un modello dopo l’elaborazione di una richiesta. I contenuti dei clienti non sono visibili ai dipendenti e non vengono utilizzati per l’addestramento dei modelli senza un consenso esplicito.

I modelli AI possono essere utilizzati anche per eseguire azioni pericolose. Private Safety Processing garantisce le protezioni di ZDR, consentendo ai sistemi automatizzati di identificare abusi senza che il personale di OpenAI abbia accesso ai contenuti dei clienti.

I contenuti del cliente vengono utilizzati indipendentemente da dove siano archiviati (nell’infrastruttura controllata dal cliente o nello storage fornito da OpenAI). In quest’ultimo caso, i contenuti sono cifrati utilizzando chiavi controllate dal cliente stesso. Il personale di OpenAI non possiede una copia di tali chiavi, quindi non può accedere ai contenuti.

Quando viene identificato un rischio, OpenAI riceve un segnale che indica il tipo di attività. Tale segnale può essere utilizzato per determinare se sia necessario intervenire. I clienti possono esaminare gli avvisi ed eventualmente presentare ricorso, chiarire attività legittime o supportare un’indagine su abusi accertati, condividendo informazioni pertinenti con OpenAI.

Private Safety Processing viene attualmente testato in collaborazione con alcuni clienti, tra cui Microsoft. Il servizio sarà disponibile entro il mese di settembre. OpenAI ha recentemente sospeso l’addestramento dei nuovi modelli AI per due settimane, in quanto deve implementare nuove protezioni per evitare incidenti come quello che ha interessato Hugging Face.