{"id":187130,"date":"2024-07-12T12:19:13","date_gmt":"2024-07-12T10:19:13","guid":{"rendered":"https:\/\/www.idmo.it\/?p=187130"},"modified":"2024-07-29T15:18:47","modified_gmt":"2024-07-29T13:18:47","slug":"misinformazione-tiktok","status":"publish","type":"post","link":"https:\/\/www.idmo.it\/en\/2024\/07\/12\/misinformazione-tiktok\/","title":{"rendered":"Account TikTok utilizzano voci generate dall&#8217;intelligenza artificiale per diffondere misinformazione"},"content":{"rendered":"\n<p>Nel settembre 2023, NewsGuard&nbsp;<a href=\"https:\/\/www.newsguardtech.com\/it\/special-reports\/tecnologie-ia-di-sintesi-vocale-creano-video-cospirazionisti-su-tiktok\/\" target=\"_blank\" rel=\"noreferrer noopener\">ha identificato<\/a>&nbsp;una rete di 17 account TikTok che utilizzavano un software IA text-to-speech per creare video che avanzavano teorie cospirazioniste su personaggi pubblici, accumulando centinaia di milioni di visualizzazioni. Ora, il fenomeno sembra essere in crescita e comincia a riguardare la politica.&nbsp;<\/p>\n\n\n\n<p>NewsGuard ha identificato\u00a0<strong>41<\/strong>\u00a0<strong>account TikTok<\/strong>\u00a0in inglese e francese che utilizzano voci generate dall\u2019intelligenza artificiale per diffondere misinformazione politica su ampia scala. Si pu\u00f2 parlare di una vera e propria proliferazione di content farm prodotte con l\u2019IA su TikTok. Per definizione, le content farm producono grandi quantit\u00e0 di contenuti di bassa qualit\u00e0, in genere per attirare visualizzazioni e macinare introiti pubblicitari.<\/p>\n\n\n\n<div class=\"wp-block-image\"><figure class=\"aligncenter size-full\"><img fetchpriority=\"high\" decoding=\"async\" width=\"936\" height=\"817\" src=\"https:\/\/www.idmo.it\/wp-content\/uploads\/2024\/07\/image2-5.png\" alt=\"\" class=\"wp-image-187133\" srcset=\"https:\/\/www.idmo.it\/wp-content\/uploads\/2024\/07\/image2-5.png 936w, https:\/\/www.idmo.it\/wp-content\/uploads\/2024\/07\/image2-5-300x262.png 300w, https:\/\/www.idmo.it\/wp-content\/uploads\/2024\/07\/image2-5-768x670.png 768w, https:\/\/www.idmo.it\/wp-content\/uploads\/2024\/07\/image2-5-24x21.png 24w, https:\/\/www.idmo.it\/wp-content\/uploads\/2024\/07\/image2-5-36x31.png 36w, https:\/\/www.idmo.it\/wp-content\/uploads\/2024\/07\/image2-5-48x42.png 48w\" sizes=\"(max-width: 936px) 100vw, 936px\" \/><figcaption>Un video con voce generata dall\u2019IA della content farm di TikTok @actualites_politiques12 diffonde la notizia priva di fondamento secondo cui le elezioni europee del 9 giugno 2024 in Francia sarebbero state &#8220;truccate&#8221;. Questo account, con oltre 200.000 follower, diffonde propaganda pro-Cremlino allo scopo di delegittimare il governo francese e l&#8217;Ucraina. (Screenshot di NewsGuard)<\/figcaption><\/figure><\/div>\n\n\n\n<p>Questi 41 account, che NewsGuard ha individuato servendosi dello strumento di rilevamento dell\u2019IA TrueMedia, hanno pubblicato&nbsp;<strong>9.784 video<\/strong>&nbsp;tra il marzo 2023 e il giugno 2024. Complessivamente, questi video hanno ottenuto oltre&nbsp;<strong>380 milioni<\/strong>&nbsp;<strong>di visualizzazioni.<\/strong>&nbsp;La maggior parte degli account \u00e8 stata creata nel 2024. In media, ogni account ha pubblicato almeno un video al giorno \u2013 ma alcuni fino a quattro video al giorno \u2013 con voci generate dall\u2019intelligenza artificiale. I video diffondono narrazioni false su argomenti quali la politica statunitense ed europea e la guerra tra Russia e Ucraina.<\/p>\n\n\n\n<p><strong>Tra le narrazioni false, fuorvianti o prive di fondamento avanzate dagli account figurano le seguenti:<\/strong><\/p>\n\n\n\n<ul class=\"wp-block-list\"><li>L\u2019ex presidente Donald Trump&nbsp;<a href=\"https:\/\/drive.google.com\/file\/d\/1-1NSANJyz7dWqTRMhkr0X2awvs1cUm05\/view?usp=drive_link\" target=\"_blank\" rel=\"noreferrer noopener\">\u00e8 stato arrestato e \u201cammanettato\u201d dopo aver aggredito \u201cil Segretario di Stato del Maine nella sua residenza\u201d<\/a>.&nbsp;<a href=\"https:\/\/drive.google.com\/file\/d\/1uoW5Ve15-8DkMJBaqv4f00u6jmHSOBK4\/view?usp=drive_link\" target=\"_blank\" rel=\"noreferrer noopener\">La deputata Marjorie Taylor Greene \u00e8 incinta del figlio dell\u2019ex presidente Donald Trump<\/a>.<\/li><li>La NATO&nbsp;<a href=\"https:\/\/drive.google.com\/file\/d\/155WlMRAoasnV1WV2vv55UHuL6OVnC3dC\/view?usp=drive_link\" target=\"_blank\" rel=\"noreferrer noopener\">ha dispiegato truppe in Ucraina<\/a>&nbsp;(al luglio 2024, non risulta che la NATO abbia inviato truppe da combattimento nel Paese).<\/li><li>La Francia potrebbe lasciare l\u2019UE \u201c<a href=\"https:\/\/drive.google.com\/file\/d\/198M_gvWt1u8klUKArP5MA5WVUuZj4PTl\/view?usp=drive_link\" target=\"_blank\" rel=\"noreferrer noopener\">nelle prossime settimane<\/a>\u201d (nessuno dei principali partiti politici francesi, compreso il partito euroscettico di estrema destra National Rally, \u00e8 favorevole alla cosiddetta \u201cFrexit\u201d).<\/li><li>Gli Stati Uniti&nbsp;<a href=\"https:\/\/drive.google.com\/file\/d\/1jKG7cGU-qSdRcpacXEebkqS8BE0QB0rC\/view?usp=drive_link\" target=\"_blank\" rel=\"noreferrer noopener\">sono responsabili dell\u2019attacco terroristico del marzo 2024 al Crocus City Hall di Mosca<\/a>&nbsp;(i militanti dello Stato Islamico, e non gli Stati Uniti, hanno orchestrato ed eseguito l\u2019attacco).&nbsp;<\/li><\/ul>\n\n\n\n<p>17 dei 41 account pubblicano regolarmente narrazioni false che sostengono gli interessi del Cremlino sulla guerra tra Russia e Ucraina. 14 di questi 17 account sono in lingua francese.<\/p>\n\n\n\n<p>Secondo quanto rilevato da NewsGuard, diversi video presenti su molti account presentavano\u00a0<a href=\"https:\/\/drive.google.com\/file\/d\/1mMYxRNeLUmcrOORyr9oKNsQspel_wu4U\/view?usp=drive_link\" target=\"_blank\" rel=\"noreferrer noopener\">script<\/a>\u00a0<a href=\"https:\/\/drive.google.com\/file\/d\/1egx9foNZzPRf5yj6XRzV_AgOGHP1aK_9\/view?usp=drive_link\" target=\"_blank\" rel=\"noreferrer noopener\">identici<\/a>, ciascuno letto da\u00a0<a href=\"https:\/\/drive.google.com\/file\/d\/1SeaXzQgLGqm1ned_rbe-xtgM1JzPe9WP\/view?usp=drive_link\" target=\"_blank\" rel=\"noreferrer noopener\">voci<\/a>\u00a0<a href=\"https:\/\/drive.google.com\/file\/d\/1M_zGoBSOlQDVgop1ePz652C6Clr6-ZSl\/view?usp=drive_link\" target=\"_blank\" rel=\"noreferrer noopener\">diverse<\/a>\u00a0generate dall\u2019IA, il che pu\u00f2 far pensare a uno sforzo coordinato tra alcune content farm.<\/p>\n\n\n\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" width=\"1024\" height=\"759\" src=\"https:\/\/www.idmo.it\/wp-content\/uploads\/2024\/07\/image4-8-1024x759.png\" alt=\"\" class=\"wp-image-187131\" srcset=\"https:\/\/www.idmo.it\/wp-content\/uploads\/2024\/07\/image4-8-1024x759.png 1024w, https:\/\/www.idmo.it\/wp-content\/uploads\/2024\/07\/image4-8-300x222.png 300w, https:\/\/www.idmo.it\/wp-content\/uploads\/2024\/07\/image4-8-768x569.png 768w, https:\/\/www.idmo.it\/wp-content\/uploads\/2024\/07\/image4-8-1536x1139.png 1536w, https:\/\/www.idmo.it\/wp-content\/uploads\/2024\/07\/image4-8-24x18.png 24w, https:\/\/www.idmo.it\/wp-content\/uploads\/2024\/07\/image4-8-36x27.png 36w, https:\/\/www.idmo.it\/wp-content\/uploads\/2024\/07\/image4-8-48x36.png 48w, https:\/\/www.idmo.it\/wp-content\/uploads\/2024\/07\/image4-8.png 1724w\" sizes=\"(max-width: 1024px) 100vw, 1024px\" \/><figcaption>Un video con voce generata dall&#8217;intelligenza artificiale dell&#8217;account TikTok &#8220;Xa News&#8221; diffonde la notizia priva di fondamento secondo cui la deputata Marjorie Taylor Greene sarebbe incinta del figlio dell&#8217;ex presidente Donald Trump. (Screenshot di NewsGuard)<\/figcaption><\/figure>\n\n\n\n<p>Gli analisti di NewsGuard non sono stati in grado di individuare la fonte di questi account TikTok, la maggior parte dei quali \u00e8 stata nel frattempo rimossa. Nessuno degli account presentava nelle biografie o nei loro nomi utente informazioni che facilitassero l\u2019identificazione di chi li ha creati. Pi\u00f9 della met\u00e0 degli account, 22, presentavano handle generici come @daily.news74, @latestworldnews.ss, @franceactu24 e @fast_infofrance.<\/p>\n\n\n\n<p>18 degli account sembravano avere i requisiti per accedere al programma \u201cCreator Fund\u201d di TikTok, che paga i creator in base alle loro visualizzazioni e all\u2019engagement generato. Per qualificarsi, gli account devono avere pi\u00f9 di 10.000 follower autentici e pi\u00f9 di 100.000 visualizzazioni negli ultimi 30 giorni.<\/p>\n\n\n\n<p>Nel settembre 2023, TikTok ha annunciato una nuova funzione che consente agli utenti di apporre etichette sui video che utilizzano l\u2019intelligenza artificiale. Secondo le linee guida della community di TikTok, consultate nel luglio 2024, gli utenti sono tenuti a inserire queste etichette nei video che utilizzano l\u2019intelligenza artificiale per mostrare \u201cin maniera realistica scene o persone\u201d. Tuttavia, al 4 luglio 2024, nessuno dei video che includevano informazioni false o fuorvianti identificati da NewsGuard era etichettato come generato dall\u2019intelligenza artificiale e TikTok non aveva fornito alcuna informazione agli utenti sulle affermazioni false diffuse dai 41 account identificati da NewsGuard.<\/p>\n\n\n\n<p>Alla richiesta di un commento su questi risultati e sul fatto che gli account identificati da NewsGuard violassero le politiche di TikTok, un portavoce della piattaforma ha rimandato NewsGuard alle policy della piattaforma sulla disinformazione e sui contenuti generati dall\u2019IA. \u201cIn materia di contenuti generati dall\u2019intelligenza artificiale, TikTok dispone di policy che sono leader nel settore, di strumenti appositi per etichettare i contenuti e di policy che vietano la diffusione di disinformazione\u201d, ha scritto il portavoce in un\u2019email del 2024. \u201cContinueremo a rimuovere i contenuti che violano tali politiche\u201d.<\/p>\n\n\n\n<p>TikTok ha rimosso alcuni degli account prima che NewsGuard chiedesse informazioni in merito. All\u20198 luglio 2024, 14 dei 41 account identificati da NewsGuard erano gi\u00e0 stati rimossi. Dopo che NewsGuard ha contattato TikTok per un commento, altri otto account sono stati rimossi. 19 dei 41 account erano ancora attivi al 10 luglio 2024.<\/p>\n\n\n\n<p><strong><em>Metodologia:&nbsp;<\/em><\/strong><\/p>\n\n\n\n<p><em>Gli analisti di NewsGuard con sede negli Stati Uniti e in Francia hanno inizialmente identificato i video cercando parole chiave tipicamente associate alle content farm IA, tra cui termini generici come \u201cnews\u201d e \u201cbreaking news\u201d e hashtag generici o specifici, come \u201c#Trump e \u201c#Russia\u201d. Hanno poi utilizzato TrueMedia.org, uno strumento di rilevamento di video e audio generati da IA, per confermare l\u2019utilizzo dell\u2019intelligenza artificiale nei video.<\/em><\/p>\n\n\n\n<p><strong><em>A cura di\u00a0<\/em><a href=\"https:\/\/www.newsguardtech.com\/about\/team\/coalter-palmer\/\" target=\"_blank\" rel=\"noreferrer noopener\">Coalter Palmer<\/a><em>\u00a0e\u00a0<\/em><a href=\"https:\/\/www.newsguardtech.com\/about\/team\/natalie-huet\/\" target=\"_blank\" rel=\"noreferrer noopener\">Natalie Huet<\/a><em>\u00a0|\u00a0Pubblicato l\u201911 luglio 2024<\/em><\/strong><\/p>\n\n\n\n<p><a href=\"https:\/\/www.newsguardtech.com\/about\/team\/isis-blachez\/\" target=\"_blank\" rel=\"noreferrer noopener\"><em>Isis Blachez<\/em><\/a><em>\u00a0ha contribuito alla realizzazione di questo report.<\/em><\/p>\n\n\n\n<p><em>Nota della redazione: questo report \u00e8 apparso per la prima volta nel Misinformation Risk Briefing di NewsGuard del 10 luglio 2024.<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"<p>NewsGuard ha identificato\u00a041\u00a0account TikTok\u00a0in inglese e francese che utilizzano voci generate dall\u2019intelligenza artificiale per diffondere misinformazione politica <\/p>\n","protected":false},"author":132,"featured_media":187136,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[4970],"tags":[],"class_list":["post-187130","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-monitoraggio"],"acf":{"share_this_post_to_edmo_website":false,"type_of_post":false,"options_for_news_post":{"":""},"options_for_event_post":{"event_start_date":null,"event_end_date":null,"event_location":"","event_programme":""},"options_for_report_post":{"post_author":"","report_type":false,"report_pdf_link":""},"options_for_investigation_post":{"post_author":""},"affiliation":false},"_links":{"self":[{"href":"https:\/\/www.idmo.it\/en\/wp-json\/wp\/v2\/posts\/187130","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.idmo.it\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.idmo.it\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.idmo.it\/en\/wp-json\/wp\/v2\/users\/132"}],"replies":[{"embeddable":true,"href":"https:\/\/www.idmo.it\/en\/wp-json\/wp\/v2\/comments?post=187130"}],"version-history":[{"count":1,"href":"https:\/\/www.idmo.it\/en\/wp-json\/wp\/v2\/posts\/187130\/revisions"}],"predecessor-version":[{"id":187139,"href":"https:\/\/www.idmo.it\/en\/wp-json\/wp\/v2\/posts\/187130\/revisions\/187139"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.idmo.it\/en\/wp-json\/wp\/v2\/media\/187136"}],"wp:attachment":[{"href":"https:\/\/www.idmo.it\/en\/wp-json\/wp\/v2\/media?parent=187130"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.idmo.it\/en\/wp-json\/wp\/v2\/categories?post=187130"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.idmo.it\/en\/wp-json\/wp\/v2\/tags?post=187130"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}