Mosseri: Foto vere o false? Impossibile saperlo per colpa dell'AI

Adam Mosseri, il capo di Instagram, ha chiuso il 2025 con un lungo post da 20 immagini che sostanzialmente dice: prepariamoci, perché fra un po’ non riusciremo più a distinguere una foto vera da una generata dall’intelligenza artificiale. E non è un avvertimento rassicurante. Auguri di buon anno da Meta…

Adam Mosseri: “Non potrete più fidarvi dei vostri occhi su Instagram”

Per gran parte della sua vita, dice Mosseri, ha dato per scontato che fotografie e video fossero una rappresentazione fedele di qualcosa che è davvero successo. Chiaramente non è più così. Anzi, siamo arrivati al punto in cui non crediamo più che un contenuto visivo sia reale finché non abbiamo buone ragioni per pensarlo.

In pratica, ogni foto che si vedrà su Instagram dovrà essere valutata con sospetto. Chi l’ha postata? Perché? Ha dei motivi per mentire? La fotocamera aveva una firma crittografica? È verificato? E mentre ci si fa tutte queste domande, l’algoritmo bombarda con altre mille immagini e in pochissimo tempo si deve decidere cosa è vero e cosa no.

Mosseri ammette che sarà scomodo. Siamo geneticamente predisposti a credere ai nostri occhi, dice, come se stesse parlando di un difetto che dobbiamo correggere per adattarci al futuro radioso dell’intelligenza artificiale generativa. Non è che forse stiamo andando nella direzione sbagliata come società, no, il problema siamo noi che ci fidiamo troppo di quello che vediamo…

Il piano di Meta per salvare la credibilità

Secondo Mosseri, Instagram e le altre piattaforme devono fare quattro cose: costruire i migliori strumenti creativi, etichettare i contenuti generati dall’AI, verificare i contenuti autentici, e far emergere segnali di credibilità su chi pubblica. È un bel programma, peccato che Meta abbia trascorso gli ultimi anni spingendo proprio quegli strumenti AI che adesso rendono impossibile distinguere il vero dal falso.

Mosseri sostiene che ci piace lamentarci dei contenuti spazzatura dell’AI, ma ci sono molti contenuti generati con l’intelligenza artificiale, che sono fantastici. Non fa esempi concreti di cosa siano questi fantastici contenuti AI, e soprattutto non menziona quanto Meta stia investendo massicciamente nei propri strumenti di intelligenza artificiale.

Le fotocamere sbagliano tutto, secondo Instagram

Una delle affermazioni più curiose di Mosseri riguarda i produttori di fotocamere. Secondo lui stanno andando nella direzione sbagliata cercando di dare a tutti la possibilità di sembrare un fotografo professionista. Invece di continuare a migliorare la qualità delle immagini, dovrebbero concentrarsi sulla firma crittografica e sulla certificazione di autenticità.

Il ragionamento ha una sua logica, anche se strana. In un mondo dove l’AI genera immagini perfette, il look professionale diventa sospetto. Le foto grezze, sfocate, non elaborate, sono un segnale di autenticità. Finché l’AI non imparerà a simulare anche le imperfezioni, ovviamente. A quel punto servirà qualcos’altro, tipo firme crittografiche generate direttamente dalle fotocamere al momento dello scatto.

Il feed tradizionale è morto (e Instagram l’ha ucciso)

Mosseri fa notare che il feed tradizionale di Instagram, quella griglia di foto quadrate e perfette, è morto anni fa. Oggi la condivisione avviene principalmente nei messaggi diretti con foto sfocate e video mossi della vita quotidiana. È vero, ma è anche vero che Instagram ha attivamente contribuito a uccidere quel feed spingendo i Reel, contenuti di persone che non si seguono, e pubblicità ogni tre post.

L’imperfezione come prova di autenticità è diventata necessaria perché abbiamo saturato il mondo di perfezione artificiale. La foto sfocata del pranzo è più credibile della foto perfettamente illuminata perché quella potrebbe essere stata generata in tre secondi da Midjourney. Ma non è una vittoria dell’autenticità, è una ritirata strategica verso l’unica cosa che l’AI non riesce ancora a simulare bene.

Mosseri sostiene che il potere sia passato dalle istituzioni agli individui, e che oggi ci fidiamo dei creatori che ammiriamo invece delle istituzioni tradizionali. È un’osservazione corretta ma incompleta. Sì, la fiducia nelle istituzioni è ai minimi storici. Ma quei “creatori” operano su piattaforme controllate da aziende come Meta, che decidono quali contenuti mostrare, a chi, e quando.

Instagram non è una piazza pubblica neutrale dove i creatori parlano liberamente al loro pubblico. È un algoritmo proprietario che decide cosa meriti visibilità basandosi su parametri che cambiano continuamente e che nessuno conosce veramente.

Firme crittografiche: la prossima frontiera

La proposta di Mosseri è che i produttori di fotocamere inizino a firmare crittograficamente le immagini al momento dello scatto, per dimostrare che un contenuto è stato effettivamente catturato nel mondo fisico e non generato da un algoritmo. Ma chi controlla le chiavi crittografiche? Come si impedisce che vengano hackerate o falsificate? Cosa succede quando si modifica leggermente una foto vera (se si ritaglia, o si corregge la luminosità) si perde la firma? E soprattutto: chi decide quali fotocamere sono autorizzate a firmare?

Mosseri conclude dicendo che etichettare semplicemente i contenuti AI non basterà. Servirà fornire molto più contesto sugli account che condividono contenuti. Ciò significa che ogni volta che si scorre Instagram si dovrà fare un’analisi del profilo per capire se quella foto di un tramonto mozzafiato è vera o generata.

Instagram dovrà evolversi rapidamente, dice Mosseri, per rimanere rilevante in un mondo di abbondanza infinita e dubbio infinito. Viviamo in un’epoca dove possiamo vedere qualsiasi cosa, ma non possiamo fidarci di nulla. E la soluzione proposta non è ripensare se sia il caso di continuare a saturare il mondo di contenuti AI, ma imparare a convivere con il dubbio permanente.