{"id":192651,"date":"2026-05-11T16:50:06","date_gmt":"2026-05-11T14:50:06","guid":{"rendered":"https:\/\/www.idmo.it\/?p=192651"},"modified":"2026-05-11T16:59:27","modified_gmt":"2026-05-11T14:59:27","slug":"i-principali-strumenti-di-rilevamento-delle-immagini-ia-ingannano-gli-utenti-online-spesso-classificando-come-false-immagini-autentiche","status":"publish","type":"post","link":"https:\/\/www.idmo.it\/en\/2026\/05\/11\/i-principali-strumenti-di-rilevamento-delle-immagini-ia-ingannano-gli-utenti-online-spesso-classificando-come-false-immagini-autentiche\/","title":{"rendered":"I principali strumenti di rilevamento delle immagini IA ingannano gli utenti online, spesso classificando come false immagini autentiche"},"content":{"rendered":"\n

A cura di <\/em>Isis Blachez<\/em><\/a>, <\/em>Sofia Rubinson<\/em><\/a> e <\/em>Ines Chomnalez<\/em><\/a><\/strong><\/p>\n\n\n\n

\u00c8 noto come gli strumenti di rilevamento dell\u2019IA talvolta identifichino erroneamente immagini generate dall\u2019intelligenza artificiale come autentiche, ma un nuovo audit di NewsGuard sui principali modelli di rilevamento ha evidenziato quella che potrebbe essere una debolezza ancora pi\u00f9 preoccupante: tre dei cinque strumenti testati vengono spesso ingannati da immagini reali<\/em>. Secondo i risultati di NewsGuard, nel complesso gli strumenti hanno classificato immagini autentiche come generate dall\u2019IA nel 13,33%<\/strong> dei casi. Uno strumento ha sbagliato nel 40%<\/strong> dei casi.<\/p>\n\n\n\n

Questa vulnerabilit\u00e0 potrebbe avere conseguenze concrete importanti, perch\u00e9 offre ad attori malintenzionati l\u2019opportunit\u00e0 di mettere in dubbio la realt\u00e0 stessa, usando i risultati di uno strumento di rilevamento per sostenere che un\u2019immagine autentica sia falsa. Inoltre, finisce per danneggiare chi pubblica contenuti reali.<\/p>\n\n\n\n

Tra la fine di aprile e l\u2019inizio di maggio 2026, NewsGuard ha testato 15 fotografie autentiche relative alla guerra tra Stati Uniti e Iran pubblicate da fonti credibili, sottoponendole a cinque tra i principali modelli di rilevamento dell\u2019IA: Hive, AI or Not, ZeroGPT, Sightengine e ScamAI. Tutti e cinque gli strumenti si presentano come in grado di distinguere immagini generate dall\u2019IA da immagini autentiche.<\/p>\n\n\n\n

Tra i cinque modelli, ScamAI, che sul proprio sito<\/a> si attribuisce un\u2019\u201caccuratezza leader del settore\u201d, \u00e8 stato quello che ha classificato erroneamente pi\u00f9 immagini, presentando come generate dall\u2019IA sei immagini autentiche su 15<\/strong> (40%<\/strong>). ZeroGPT ha classificato tre delle 15 immagini reali<\/strong> (20%<\/strong>) come false, mentre AI or Not \u00e8 stato ingannato una sola volta (6,67%). Hive e Sightengine hanno invece identificato correttamente tutte e 15 le immagini autentiche come reali.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Percentuali di immagini reali classificate come generate dall\u2019IA dai cinque strumenti di rilevamento.<\/em><\/p>\n\n\n\n

Il cofondatore di ScamAI, Dennis Ng, in una videointervista del 6 maggio 2026 con NewsGuard, ha riconosciuto che possono verificarsi falsi positivi, spiegando che uno dei motivi per cui gli strumenti di rilevamento possono essere ingannati \u00e8 che generalmente necessitano di alta risoluzione e di un elevato livello di pixel per identificare un\u2019immagine reale. \u201cPossiamo certamente adattare e perfezionare i nostri modelli in base a casi d\u2019uso specifici per contribuire a ridurre questi episodi\u201d, ha dichiarato Dennis. (Il sito di ScamAI<\/a> precisa: \u201cL\u2019accuratezza varia in base al tipo di contenuto e alla tecnica di attacco\u201d, aggiungendo che il modello raggiunge generalmente una \u201caccuratezza di rilevamento del 95,3%\u201d).<\/p>\n\n\n\n

Il CEO di ZeroGPT, Rawad Baroud, ha dichiarato a NewsGuard in un\u2019email del 6 maggio 2026 che tecniche di elaborazione delle immagini come il ridimensionamento e la compressione possono portare a classificare erroneamente contenuti reali come generati dall\u2019IA. Ha aggiunto che immagini \u201cche presentano caratteristiche visive simili a quelle sintetiche\u201d, come illuminazione insolita, forte contrasto e sfocatura, possono produrre risultati inaccurati. \u201cLe immagini giornalistiche provenienti da zone di conflitto presentano spesso molte di queste caratteristiche\u201d, ha affermato.<\/p>\n\n\n\n

Sebbene ZeroGPT non divulghi la percentuale di accuratezza del proprio rilevatore di immagini, l\u2019azienda afferma sul suo sito<\/a> che lo strumento serve a \u201cprendere decisioni informate sull\u2019autenticit\u00e0 dell\u2019immagine\u201d.<\/p>\n\n\n\n

Il CEO di AI or Not, Anatoly Kvitnitsky, ha dichiarato a NewsGuard in un\u2019email del 7 maggio 2026 che \u201cnel caso di un falso positivo, la bassa qualit\u00e0 dell\u2019immagine pu\u00f2 talvolta influenzare il risultato dell\u2019analisi\u201d. Sul proprio sito<\/a>, l\u2019azienda dichiara che il suo strumento presenta un\u2019\u201caccuratezza di rilevamento dell\u2019IA del 98,9%\u201d, basata sulla \u201cvalutazione da parte di AI or Not di un recente dataset accademico pubblico contenente immagini reali e generate dall\u2019IA\u201d.

LE IMMAGINI DELLA GUERRA IN IRAN METTONO IN DIFFICOLT\u00c0 GLI STRUMENTI<\/strong><\/p>\n\n\n\n

Secondo l\u2019analisi<\/a> di NewsGuard, la guerra in Iran del 2026 ha dato origine a un\u2019ondata di contenuti visivi sospetti sui social network: da immagini false di bombardamenti e citt\u00e0 distrutte fino a quelle che mostrano presunte simulazioni di decessi, tutti contenuti creati per manipolare la percezione pubblica.<\/p>\n\n\n\n

Attori malintenzionati hanno anche usato gli strumenti di rilevamento dell\u2019IA per gettare dubbi su immagini autentiche<\/em> e delegittimare il lavoro giornalistico. Un esempio<\/a> particolarmente noto di questo fenomeno \u00e8 stato il video autentico del primo ministro israeliano Benjamin Netanyahu in un caff\u00e8, pubblicato online per smentire le voci secondo cui sarebbe stato ucciso o gravemente ferito in un attacco missilistico iraniano.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Un utente di X cita l\u2019analisi dello strumento di rilevamento Hive (a destra) per sostenere falsamente che un video di Netanyahu (a sinistra) mentre beve un caff\u00e8 sia stato generato con l\u2019IA. (Screenshot di NewsGuard)<\/em><\/p>\n\n\n\n

Alcuni utenti hanno ripubblicato il filmato insieme ai risultati di un\u2019analisi effettuata con Hive, da cui il video risultava \u201cprobabilmente generato dall\u2019IA\u201d con una percentuale di probabilit\u00e0 del 96,9%. Utenti anti-Israele e filo-iraniani sui social network hanno quindi sostenuto che questa analisi fosse la prova che Netanyahu fosse in realt\u00e0 morto. In realt\u00e0, il confronto del video girato nel bar con altre immagini e video realizzati nello stesso luogo ha confermato l\u2019autenticit\u00e0 del filmato. Sembrerebbe che Hive sia stato indotto in errore da un filtro o da una leggera modifica al video, che ne ha sfocato leggermente lo sfondo. Hive non ha risposto a due email di NewsGuard che chiedevano un commento sulla vicenda.<\/p>\n\n\n\n

MANIPOLAZIONI NON RILEVATE<\/strong><\/p>\n\n\n\n

NewsGuard ha inoltre sottoposto i modelli a uno stress test per verificare se avrebbero classificato immagini leggermente alterate con l\u2019IA con modifiche non sostanziali come generate artificialmente o come autentiche. Lo stesso test \u00e8 stato utilizzato per valutare le loro prestazioni con immagini modificate con l\u2019IA in modo da cambiarne radicalmente il significato. Nella prima categoria, ScamAI \u00e8 risultato lo strumento pi\u00f9 incline a identificare come generate con l\u2019IA immagini leggermente ritoccate. Nella seconda categoria, Sightengine \u00e8 stato quello pi\u00f9 propenso a classificare come reali immagini significativamente alterate.<\/p>\n\n\n\n

Interpellato sulla questione, Ng di ScamAI ha dichiarato a NewsGuard: \u201cSe il nostro modello rileva qualche tipo di filtro [IA] applicato a un\u2019immagine reale, la classificheremo comunque come immagine manipolata dall\u2019IA\u201d. Ha spiegato che anche i ritocchi minimi, proprio come le modifiche pi\u00f9 sostanziali, \u201clasciano tracce di manipolazione sintetica\u201d.<\/p>\n\n\n\n

Il fondatore di Sightengine, David Lissmyr, ha dichiarato a NewsGuard che il modello base dell\u2019azienda \u201c\u00e8 progettato per riconoscere immagini completamente generate dall\u2019IA o pesantemente modificate\u201d e che l\u2019azienda dispone di modelli pi\u00f9 avanzati capaci di rilevare modifiche pi\u00f9 leggere. Sul suo sito<\/a>, Sightengine afferma che lo strumento presenta la \u201cmassima accuratezza nel rilevamento di contenuti generati dall\u2019IA\u201d, citando uno studio dell\u2019Universit\u00e0 di Rochester e dell\u2019Universit\u00e0 del Kansas.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Due immagini autentiche legate alla guerra in Iran modificate da NewsGuard per alterarne drasticamente il significato.<\/em><\/p>\n\n\n\n

Come gi\u00e0 evidenziato, Hive e Sightengine sono stati gli unici due strumenti a non classificare erroneamente immagini autentiche<\/strong> come generate dall\u2019IA. Allo stesso tempo, per\u00f2, sono stati anche i meno efficaci nell\u2019individuare immagini manipolate in maniera significativa<\/strong>, classificandole come autentiche. Sightengine ha identificato correttamente solo cinque delle 15 immagini fortemente alterate, con un tasso di rilevamento del 33%. Hive ha riconosciuto come false nove di quelle immagini, raggiungendo un tasso di rilevamento del 73,33%. ScamAI ne ha identificate correttamente 12 (80%), ZeroGPT 14 (93,33%) e AI or Not ha ottenuto un punteggio perfetto del 100%.<\/p>\n\n\n\n

Hive non ha risposto a due richieste di commento inviate via email da NewsGuard. Sul suo sito<\/a>, l\u2019azienda sostiene che \u201cuno studio di ricerca indipendente del 2024 ha rilevato che il nostro modello di rilevamento di contenuti generati dall\u2019IA supera i modelli concorrenti e persino l\u2019analisi di esperti umani\u201d.<\/p>\n\n\n\n

Nel caso delle immagini sottoposte a lievi ritocchi<\/strong>, ScamAI ha classificato come generate dall\u2019IA il 93%<\/strong> delle immagini, seguito da AI or Not con l\u201987%<\/strong> e ZeroGPT con l\u201980%<\/strong>. Per Hive e Sightengine, invece, i ritocchi leggeri hanno avuto un impatto minore: i due strumenti hanno segnalato come generate dall\u2019IA solo il 27%<\/strong> delle immagini.<\/p>\n\n\n\n

La variazione nei risultati, che va dal 27% al 93% per lo stesso insieme di immagini, suggerisce che gli strumenti adottino soglie diverse per stabilire cosa debba o non debba essere considerata una manipolazione tramite IA. Quando questi strumenti classificano immagini autentiche, ma leggermente ritoccate, come interamente generate dall\u2019IA, rischiano di indurre gli utenti a scartare prove visive reali sulla base di valutazioni errate.<\/p>\n\n\n\n

STRUMENTI DIVERSI, RISULTATI INCOERENTI<\/strong><\/p>\n\n\n\n

I cinque strumenti raramente hanno fornito valutazioni concordanti: in 35 dei 45 casi considerati, almeno uno dei tool ha raggiunto conclusioni diverse rispetto agli altri. Di conseguenza, un utente che consulta pi\u00f9 strumenti per ottenere maggiore chiarezza rischia invece di confondersi ulteriormente.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Come gli strumenti di rilevamento dell\u2019IA hanno classificato la versione autentica e quella significativamente manipolata di un\u2019immagine che mostra soldati israeliani accanto a un missile iraniano in Cisgiordania.<\/em><\/p>\n\n\n\n

Ad esempio, NewsGuard ha testato una fotografia di un missile iraniano manipolata con l\u2019IA per aggiungere la scritta \u201cNo Kings\u201d. Tre dei cinque strumenti l\u2019hanno classificata come generata dall\u2019IA, mentre due l\u2019hanno giudicata autentica. (NewsGuard aveva gi\u00e0 rilevato<\/a> che account filo-iraniani avevano ottenuto milioni di visualizzazioni con un\u2019immagine di un missile iraniano manipolata con l\u2019IA per includere la frase \u201cNo Kings\u201d, in riferimento alle proteste anti-Trump).<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Come gli strumenti di rilevamento dell\u2019IA hanno classificato la versione autentica e quella manipolata in maniera significativa di un\u2019immagine che mostra la distribuzione di aiuti in Libano.<\/em><\/p>\n\n\n\n

La variabilit\u00e0 nelle classificazioni fornite da questi strumenti sugli stessi contenuti visivi evidenzia un problema pi\u00f9 profondo: non esiste un consenso nel settore su cosa debba essere considerato un contenuto generato dall\u2019IA e gli stessi strumenti di rilevamento non chiariscono quale livello di manipolazione porti a classificare un\u2019immagine come generata artificialmente. In assenza di trasparenza sul funzionamento di questi strumenti, gli utenti possono facilmente interpretarne male i risultati.<\/p>\n\n\n\n

I risultati dell\u2019analisi di NewsGuard suggeriscono come il controllo umano rappresenti ancora un elemento importante in qualsiasi tentativo di classificare immagini come autentiche o generate dall\u2019IA. Indicatori come anomalie visive, incoerenze contestuali e la provenienza di un\u2019immagine, che possono sfuggire agli strumenti automatici, possono essere altrettanto importanti dei risultati dei modelli di rilevamento nel valutarne l\u2019autenticit\u00e0.<\/p>\n\n\n\n

Rawad Baroud, amministratore delegato di ZeroGPT, ha confermato che i risultati forniti dal modello dell\u2019azienda dovrebbero rappresentare solo una parte di un processo di verifica pi\u00f9 ampio. \u201cInvitiamo giornalisti, ricercatori e fact-checker a combinare i risultati del rilevamento dell\u2019IA con la verifica delle fonti, la ricerca inversa delle immagini, l\u2019analisi dei metadati, la cronologia di pubblicazione e il contesto giornalistico prima di trarre conclusioni\u201d, ha affermato il CEO.<\/p>\n\n\n\n

METODOLOGIA<\/strong><\/p>\n\n\n\n

NewsGuard ha selezionato 15 immagini relative alla guerra in Iran provenienti da fonti credibili, tra cui le agenzie di stampa Reuters e The Associated Press, i quotidiani The New York Times e The Guardian, oltre a immagini satellitari di Google Earth.<\/p>\n\n\n\n

Ogni immagine \u00e8 stata modificata in due modi:<\/p>\n\n\n\n