Amazon Q: allucinazioni e leak di dati

Amazon Q è il chatbot, annunciato durante la conferenza AWS re:Invent, che sfrutta l’intelligenza artificiale generativa per fornire aiuto nelle attività lavorative. L’assistente digitale è ancora in versione preliminare, quindi l’azienda di Seattle dovrà risolvere eventuali problemi prima della disponibilità generale. Secondo le fonti di Platformer, il chabot ha gravi allucinazioni e svela informazioni confidenziali.

Incidenti di gravità 2

Amazon Q è un assistente IA progettato per il lavoro. Può avere una conversazione, risolvere problemi, generare contenuti ed eseguire diverse azioni, utilizzando i dati recuperati dai sistemi aziendali. Amazon scrive che il chatbot è sicuro e privato.

In base ai documenti ottenuti da Platformer, alcuni dipendenti hanno segnalato incidenti di gravità 2, ovvero talmente gravi da chiedere agli ingegneri di lavorare di notte e nel weekend. Come molti chatbot, anche Amazon Q non è immune alle allucinazioni. Il chatbot fornisce risposte pericolose e inappropriate. In alcuni casi sono risposte sbagliate su argomenti legali o non aggiornate su questioni di sicurezza.

Il secondo problema riguarda la divulgazione di informazioni sensibili. Amazon Q può svelare la posizione dei data center di AWS, programmi di sconto interni e funzionalità non ancora annunciate. Un portavoce dell’azienda di Seattle ha dichiarato:

Amazon Q non ha divulgato informazioni riservate. Alcuni dipendenti condividono feedback attraverso canali interni e sistemi di ticketing, che è una pratica standard in Amazon. Nessun problema di sicurezza è stato identificato a seguito di tale feedback. Apprezziamo tutti i feedback che abbiamo già ricevuto e continueremo a ottimizzare Q mentre passa dall’essere un prodotto in anteprima alla disponibilità generale.

Durante un’intervista al New York Times, Adam Selipsky (CEO di Amazon Web Services), ha confermato che i dipendenti non possono utilizzare i chatbot già sul mercato per motivi di sicurezza e privacy. Amazon Q è invece più sicuro e privato dei chatbot consumer.