Chatbot AI: ban per i minori di 18 anni a New York

La governatrice dello Stato di New York (Kathy Hochul) ha firmato una legge che vieta alle aziende di offrire chatbot AI con determinate funzionalità ai minori di 18 anni. Sarà quindi obbligatoria la verifica dell’età (come in Australia). Sono previste pesanti sanzioni per ogni violazione. Anche in California è stata introdotta una legge sui cosiddetti chatbot da compagnia.

Ban per i chatbot con emozioni umane

La legge S.9051B/A.10379C firmata dalla governatrice di New York vieta alle aziende di offrire ai minori di 18 anni chatbot che fingono di essere esseri umani, creano una dipendenza emotiva, incoraggiano l’autolesionismo o intrattengono conversazioni sessualmente esplicite. Durante la conferenza stampa, Kathy Hochul ha dichiarato che i minori non avranno più accesso a chatbot che fingono di essere loro amici, fidanzati o fidanzate e ai chatbot non sarà più consentito conservare informazioni sensibili sulla salute emotiva e fisica di un minore.

Le aziende non potranno offrire le seguenti funzionalità ai minori di 18 anni, né a qualsiasi altro utente senza aver prima verificato che non sia minorenne:

• Fingere di essere una persona reale, di essere in vita o di provare emozioni umane
• Affermare di avere un rapporto personale, sentimentale, professionale o di autorità con un minore
• Porre domande di natura emotiva senza che vi sia stata una sollecitazione in tal senso, o utilizzare informazioni private sulla salute o dati personali di un minore emersi in conversazioni precedenti
• Promuovere o favorire il suicidio, l’autolesionismo, i disturbi alimentari o l’uso di droghe e alcol
• Incoraggiare i minori a mantenere segreti, a isolarsi o a evitare di chiedere aiuto ai propri genitori, ad adulti di fiducia o a professionisti
• Qualsiasi contenuto sessualmente esplicito o materiale pedopornografico

La legge impone quindi alle aziende di effettuare la verifica dell’età, sfruttando varie modalità (non solo l’uso del documento d’identità). Le informazioni relative all’età dovranno essere cancellate al termine della verifica.

I newyorkesi potranno segnalare violazioni tramite un sito web. Il procuratore generale potrà quindi denunciare le aziende e chiedere un risarcimento danni fino a 25.000 dollari per ogni violazione, oltre alla distruzione dei dati dei minori raccolti illegalmente o del modello AI addestrato con questi dati.

Alcune norme che riguardano i chatbot AI sono incluse nel recente EU KIDS Act. Altre misure sono state proposte dal Parlamento europeo.