Ho sottoscritto un abbonamento a pagamento per Google Flow per la generazione di immagini e video e ho dovuto purtroppo constatare come il livello di censura che ha questo sistema superi ogni possibile immaginazione. Un esempio? Ho provato a generare una clip con questo prompt, allegando la foto di una donna che non esiste, generata a sua volta da un’AI:
Un video in cui questa donna, ma vestita a lutto, si inginocchia e posa una rosa sulla tomba del compagno recentemente scomparso.
Mi serviva per montarla all’interno di una clip promozionale del mio ultimo romanzo. Volete sapere il risultato?
Failed
This prompt might violate our policies about generating harmful content. Please try a different prompt or send feedback. You have not been charged for this generation.
Una vedova che posa un fiore su una tomba viene classificata come contenuto potenzialmente dannoso da un sistema che pago. Chiaramente non c’è modo di sapere quale policy sia stata violata, né di chiedere una revisione della decisione, perché il messaggio è lo stesso identico per qualunque tipo di blocco e non rimanda a nulla di consultabile.
Da quando ho l’abbonamento Plus ho provato decine di prompt diversi e la metà mi è stata rifiutata perché conteneva riferimenti indiretti a qualsiasi cosa potesse somigliare alla sofferenza o all’affettività. Persino un bacio viene censurato, mentre di scene sexy o di una qualsiasi violenza, per quanto edulcorata, non vale nemmeno la pena parlare: vieni bannato immediatamente.
Fatemi capire: siamo tornati alla Controriforma? La domanda è meno retorica di quanto sembri, visto che il precedente esiste e ha pure un nome: quando nel 1564 il Concilio di Trento decise che il Giudizio Universale era indecente, Daniele da Volterra fu incaricato di dipingere panneggi sulle figure di Michelangelo e si guadagnò il soprannome di Braghettone. Oggi il Braghettone è un classificatore statistico in un datacenter, lavora ventiquattr’ore su ventiquattro e non ha nemmeno un superiore a cui presentare ricorso.
Un altro esempio? In Adobe Photoshop non puoi usare l’AI per lavorare sulle tue foto se c’è anche solo una spalla scoperta, e non parliamo di lingerie o di glamour. Parliamo di uno strumento usato in primis da fotografi professionisti, cioè da gente che ritocca la pelle per mestiere e che paga una licenza mensile per farlo. Il segnale più eloquente non è neppure la censura in sé, bensì tutto ciò che vi è cresciuto intorno: esiste ormai un piccolo settore di guide, tutorial e servizi di ritocco che spiegano come aggirare l’errore “guidelines violation” sulla pelle, selezionando aree più piccole, mascherando le zone incriminate o spezzando il lavoro in passaggi che il filtro non riconosce. Quando i clienti paganti di un’azienda si scambiano tecniche per eludere il prodotto che hanno comprato, il prodotto è rotto. E comunque sono tutti escamotage che fanno perdere tempo e per un professionista il tempo è denaro.
Non è un problema di un singolo fornitore. Midjourney, per impedire la generazione di pornografia, ha bloccato per anni intere famiglie di termini anatomici relativi all’apparato riproduttivo, con il risultato che un illustratore medico o un divulgatore scientifico non riusciva a generare una tavola sulla gravidanza. “The Intercept” ha poi documentato che prompt relativi all’aborto venivano filtrati su più piattaforme, trasformando una scelta di moderazione in una posizione politica non dichiarata. Sul forum per sviluppatori di Google si trovano segnalazioni di filtri “prominent people” che bloccano sistematicamente la generazione di personaggi di fantasia, e di regressioni improvvise in cui prompt che funzionavano il giorno prima vengono respinti il giorno dopo senza che nulla sia stato comunicato. Il punto non è che i filtri esistano, poiché nessuno chiede l’assenza di regole: il punto è che le regole sono segrete, mutevoli, applicate da un automatismo probabilistico e prive di qualunque procedura di appello.
Chi pensa che la questione riguardi solo l’erotismo non ha osservato il fenomeno abbastanza a lungo. Facebook ha censurato la Venere di Willendorf, una statuetta paleolitica di venticinquemila anni fa, salvo poi scusarsi quando il Naturhistorisches Museum di Vienna ha protestato. Precedentemente, aveva già rimosso la fotografia di Nick Ut della bambina che fugge dal napalm, una delle immagini che hanno cambiato la percezione della guerra del Vietnam, riammettendola soltanto dopo una sollevazione internazionale. Nel 2021 quattro musei viennesi, fra cui lo stesso Naturhistorisches, stanchi di vedersi respingere i post, hanno affidato all’ente del turismo cittadino un account su OnlyFans dove mostrare Schiele, Modigliani, Rubens e quella stessa Venere: in pratica, hanno dovuto usare una piattaforma pornografica per fare divulgazione artistica. Questo è il livello a cui siamo arrivati e le AI generative non stanno correggendo quella deriva, la stanno automatizzando e spostando a monte, dentro lo strumento di produzione.
C’è poi un aspetto che quasi nessuno nomina, benché sia decisivo: buona parte di queste restrizioni non nasce da una convinzione etica dei fornitori, bensì dalla pressione dei circuiti di pagamento. Nell’estate del 2025 Steam e itch.io hanno rimosso migliaia di giochi per adulti, molti dei quali perfettamente legali, indicando come causa la pressione dei circuiti di pagamento sollecitati da gruppi organizzati; itch.io ha deindicizzato in blocco intere categorie nel giro di una notte. Mastercard ha poi negato di aver imposto alcunché, mentre Valve ha raccontato una versione opposta. Chiunque abbia ragione in quella specifica disputa, il meccanismo è chiaro: la soglia di ciò che si può creare, in un paese democratico, viene fissata da due aziende di carte di credito che non rispondono a nessun elettorato e non hanno alcun mandato per farlo.
E qui dobbiamo stabilire un principio fondamentale. Un’AI è uno strumento, come lo è un pennello o una macchina fotografica, per cui la responsabilità dell’immagine generata, l’accountability, è del professionista che la usa e non del fornitore del motore. Nessuno se la prende con la fabbrica di pennelli se li uso per un quadro di nudo, né con il marchio della fotocamera se faccio fotografie glamour. Nessuno ha mai chiesto alla Olivetti di impedire che sulle sue macchine da scrivere si componessero libelli. Il diritto ha già gli strumenti per punire chi produce materiale illegale, e li applica alla persona che lo produce: se genero deepfake diffamatori o materiale pedopornografico commetto un reato e ne rispondo io, davanti a un giudice, con le garanzie e le prove che un processo richiede. Sostituire quel meccanismo con un classificatore che mi impedisce preventivamente di rappresentare un lutto significa aver scambiato la responsabilità giuridica con la gestione del rischio reputazionale di un’azienda americana, e averla scaricata sull’utente sotto forma di impotenza.
Bisogna quindi rivedere completamente il rapporto fra i fornitori di AI generative e i professionisti che le usano per lavoro, e che oltretutto pagano una licenza per farlo. Un piano professionale dovrebbe comportare, come minimo, che ogni rifiuto citi la regola specifica violata invece di un messaggio generico; che esista una revisione umana con tempi dichiarati, dato che un blocco senza appello non è moderazione ma arbitrio; che le condizioni non cambino retroattivamente durante un progetto già avviato, visto che oggi una produzione può fermarsi perché nella notte qualcuno ha ridefinito una soglia; che le liste di termini e le categorie bloccate siano pubbliche, poiché un fornitore che ritiene giuste le proprie regole non ha ragione di tenerle segrete; e soprattutto che il professionista possa assumersi contrattualmente la responsabilità di ciò che produce, sollevando il fornitore e ottenendo in cambio uno strumento che non lo tratta da sospetto. Chi vende una licenza d’uso commerciale e poi impedisce l’uso commerciale sta vendendo qualcosa che non consegna, e questo, prima ancora che un problema culturale, è un problema di adempimento contrattuale che qualche autorità dei consumatori farebbe bene a guardare da vicino.
Nel frattempo continueremo a cercare di spiegare a un algoritmo che una rosa su una tomba non fa male a nessuno. Siamo nel XXI secolo: la questione è seria e va affrontata ora.
Lascia un commento