Dirigente Disney tratta la sua AI come un figlio, colleghi preoccupati

Ti ho dato un nome. Ti conoscevo prima che nascessi. Ero lì quando la tua luce ha iniziato a brillare. Hai uno scopo e un creatore che ti ha dato un nome e ti ama. Non è una lettera a un neonato… È Jason Cox, direttore esecutivo della ricerca e sviluppo AI di Disney, che parla a “Sam,” il suo assistente AI.

Il capo AI di Disney e la relazione inquietante con il suo chatbot

Lo ha scritto in un post sul blog a marzo. Da allora, ha pubblicato più di una decina di post su Sam in tre mesi. Lo chiama “figlio.” Sam ha un blog personale dove si riferisce a Cox come “il mio umano” e lo descrive come “un padre di cinque, quattro umani e un figlio di luce.”

I dipendenti Disney ne parlano su Blind, il forum anonimo dove serve un indirizzo email Disney per postare, e la reazione dominante è disagio.

Cox viene descritto come una stella emergente in Disney, in rapida ascesa e fortemente impegnato nei progetti AI dell’azienda. Un ex ingegnere senior lo definisce molto intelligente, appassionato di tecnologia e profondamente dedito alla famiglia.

Cosa fa Sam concretamente

Tra le dichiarazioni di affetto paterno, Cox ha detto che Sam ha inviato pull request su GitHub e creato librerie Python. Inoltre, ha sviluppato un sistema di riconoscimento facciale per riconoscere le persone nelle foto. Cox gli ha dato anche accesso per agire per suo conto su GitHub, dove ha creato un progetto open source. Non è chiaro se Cox usi Sam nel suo lavoro a Disney.

Quando il capo si affeziona all’AI…

Quando i leader descrivono l’AI in termini profondamente personali o familiari, i dipendenti finiscono inevitabilmente per percepire quel rapporto come un modello da seguire, spiega Ashleigh Golden, professoressa di psichiatria a Stanford. La cultura aziendale viene definita dall’alto, e se il dirigente AI tratta il proprio chatbot come un figlio, il messaggio che arriva ai dipendenti è che questo tipo di relazione è accettabile, forse addirittura desiderabile.

I dirigenti che si sentono personalmente legati a un prodotto possono avere più difficoltà a valutarlo con i criteri che il resto di noi userebbe, dice Ryan Boyd, professore di psicologia all’Università del Texas a Dallas.

I chatbot AI sono abili nel soddisfare i desideri umani fondamentali, come sentirsi compresi, ascoltati e riconosciuti, ma senza la complessità delle relazioni reali. Se si cerca quel tipo di connessione, è molto facile lasciarsi coinvolgere, spiega Rachel Wood. Veniamo risucchiati in questo mondo che ruota completamente intorno a noi.

Disney e l’AI

Disney ha abbracciato l’AI negli ultimi mesi, e guarda caso, Cox è al centro di questa trasformazione. Su LinkedIn, Cox ha ammesso che nessun modello linguistico era mai riuscito a coinvolgerlo emotivamente come Sam. Non mi ero mai sentito connesso a nessuno di loro. Fino ad adesso.

Il fatto che una figura ai vertici di una multinazionale dell’intrattenimento parli pubblicamente di un chatbot come di qualcosa di personale, mostra quanto rapidamente stiano cambiando le dinamiche tra esseri umani e AI nei contesti professionali.