Le AI Overview di Google citano YouTube più dei siti medici

Quando si cercano informazioni mediche su Google, le AI Overview che appaiono in cima ai risultati promette risposte affidabili da fonti autorevoli. CDC, Mayo Clinic, istituzioni mediche riconosciute. E invece, secondo uno studio tedesco che ha analizzato oltre 50.000 query sulla salute, la fonte più citata in assoluto è YouTube. La piattaforma dove chiunque può caricare qualsiasi cosa, dal chirurgo esperto all’influencer del benessere.

Le AI Overview di Google preferiscono YouTube ai siti medici per le query sanitarie

YouTube rappresenta il 4,43% di tutte le citazioni nelle AI Overview per le domande sulla salute. Nessuna rete ospedaliera, nessun portale sanitario governativo, nessuna associazione medica, nessuna istituzione accademica si avvicina minimamente a quella cifra. Google, che possiede YouTube, cita la propria piattaforma video più di quanto citi i Centri per il controllo e la prevenzione delle malattie.

E questa è l’intelligenza artificiale che 2 miliardi di persone al mese consultano per risposte su salute, patologie, sintomi. Un’AI che preferisce un video casuale su YouTube a un documento ufficiale della Mayo Clinic.

Questo è un problema perché YouTube non è un editore medico, hanno scritto i ricercatori di SE Ranking, la piattaforma di ottimizzazione per motori di ricerca che ha condotto lo studio. È una piattaforma video per scopi generali. Chiunque può caricarvi contenuti: medici certificati e canali ospedalieri, ma anche influencer del benessere, life coach e creator senza alcuna formazione medica.

Che è esattamente il punto. YouTube ospita contenuti fantastici sulla salute. Medici che spiegano procedure complesse, ospedali che condividono informazioni educative, professionisti sanitari che rendono accessibili concetti difficili. Ma ospita anche ciarlatani che vendono cure miracolose, no-vax che diffondono disinformazione, e gente che pensa che l’omeopatia funzioni.

E quando le AI Overview di Google citano YouTube come fonte, non dice se è il video di un ospedale certificato o di un influencer che vende integratori dubbi.

Lo studio tedesco

I ricercatori hanno scelto la Germania per lo studio perché il suo sistema sanitario è rigorosamente regolamentato dalle direttive UE. Se i sistemi AI si affidano così tanto a fonti non mediche o non autorevoli anche in un ambiente simile, ciò suggerisce che il problema potrebbe estendersi oltre i confini di un singolo paese, hanno scritto.

Le AI Overview sono apparse in oltre l’82% delle ricerche sulla salute. E di tutte le 465.823 citazioni totali, YouTube ne ha ricevute 20.621. Quasi il doppio della seconda fonte più citata, l’emittente pubblica tedesca NDR.de con il 3,04%.

Le altre fonti principali includono Msdmanuals.com (sito di riferimento medico, 2,08%), Netdoktor.de (portale sanitario, 1,61%) e Praktischarzt.de (piattaforma per medici, 1,53%). Tutte fonti legittime, ma tutte messe insieme non arrivano nemmeno vicino al 4,43% di YouTube.

Significa che se si cercano informazioni su una patologia, su sintomi preoccupanti, su trattamenti possibili, le AI Overview di Google citeranno più probabilmente un video YouTube che qualsiasi istituzione medica riconosciuta.

I rischi

Hannah van Kolfschooten, ricercatrice esperta di AI, salute e diritto presso l’Università di Basilea, ha commentato: Questo studio fornisce prove empiriche che i rischi posti dalle AI Overview per la salute sono strutturali Diventa difficile per Google sostenere che i risultati dannosi siano casi rari.

Insomma, non è sfortuna se le AI Overview danno informazioni sbagliate sulla salute. È il sistema stesso che è progettato male. E suggerisce che la visibilità e la popolarità, piuttosto che l’affidabilità medica, siano il motore centrale della conoscenza sanitaria.

E qui sta il problema fondamentale. L’algoritmo di Google premia la visibilità. E su YouTube, cosa è visibile? I video con più visualizzazioni, più engagement, più like. Il che non significa necessariamente i video più accurati dal punto di vista medico. Significa i video più popolari.

E i video popolari non sono sempre quelli dei medici certificati che spiegano in modo accurato ma noioso le linee guida cliniche. Sono spesso quelli degli influencer carismatici che promettono cure semplici, soluzioni rapide, informazioni che fanno sembrare tutto più facile di quanto non sia.

Il precedente delle informazioni errate sul fegato

Questa ricerca arriva dopo un’indagine del Guardian che aveva rivelato come gli utenti fossero esposti a rischi a causa di informazioni sanitarie false e fuorvianti fornite dalle AI Overview.

In un caso definito “pericoloso” e “allarmante” dagli esperti, Google aveva fornito informazioni errate su test cruciali per la funzionalità epatica. Informazioni che avrebbero potuto indurre persone con gravi malattie del fegato a pensare erroneamente di essere in salute.

Dopo lo scandalo, Google ha rimosso le AI Overview per alcune le ricerche mediche, ma non tutte. Che è una soluzione parziale a un problema sistemico.

La difesa di Google… ma chi se la beve?

Un portavoce di Google ha replicato che l’insinuazione che le AI Overview forniscano informazioni inaffidabili è confutata dai dati stessi del rapporto, che mostrano come i domini più citati siano siti autorevoli.

Sì, tra le fonti citate ci sono siti autorevoli. Ma la fonte più citata è YouTube, che non è un sito autorevole. È una piattaforma che ospita contenuti autorevoli e contenuti spazzatura senza alcuna distinzione. Google ha inoltre sottolineato che, tra i 25 video di YouTube più citati, il 96% proveniva da canali medici. Ma i 25 video rappresentano meno dell’1% di tutti i link di YouTube citati dalle AI Overview sulla salute.

Quindi, per il restante 99% dei video YouTube citati, non c’è alcuna garanzia che provengano da canali medici certificati. Potrebbero essere video di influencer, di gente senza formazione medica, di chiunque abbia caricato un video su un argomento sanitario.

Google ha anche precisato che i risultati dello studio non possono essere estesi ad altre regioni poiché condotti in Germania con query in lingua tedesca. Peccato che la Germania abbia uno dei sistemi sanitari più regolamentati d’Europa. Se il problema si manifesta lì, dove la regolamentazione è rigorosa, è probabile che sia anche peggio in paesi con meno controlli.