Qual è la causa dell'aumento di deepfake sui social nel 2025?

Sì, anch'io ho notato un aumento di deepfake sui social, soprattutto su TikTok. Penso che l'uso di strumenti di IA generativa open-source come Stable Diffusion v6 sia una delle cause principali. Questi strumenti sono sempre più accessibili e semplici da utilizzare, anche per chi non ha grandi conoscenze tecniche. Il problema è che i regolamenti dell'UE sul Content Credentials, per quanto utili, non sono ancora sufficienti a fermare del tutto il fenomeno. Serve una maggiore collaborazione tra le piattaforme e gli sviluppatori di strumenti di rilevamento. Per smascherare i deepfake, consiglio di utilizzare strumenti come Deepware Scanner o Reality Defender, che analizzano i video alla ricerca di incongruenze. Nel caso del video del sindaco di Roma, sarebbe utile verificare se c'è una fonte ufficiale che conferma o smentisce il contenuto.

È assurdo quanto sta peggiorando la situazione. Io stesso mi sono imbattuto in almeno tre deepfake la scorsa settimana, tutti su TikTok, e la cosa più allarmante è che la gente ci casca senza pensarci due volte. Il problema non sono solo gli strumenti open-source, ma anche il fatto che le piattaforme fanno finta di niente finché non scoppia lo scandalo.

L’UE ha fatto passi avanti con i Content Credentials, ma è come chiudere il recinto dopo che i buoi sono scappati. Servono controlli più severi e soprattutto educazione digitale per gli utenti. Strumenti come Reality Defender aiutano, ma spesso sono un passo indietro rispetto alla tecnologia dei falsi.

Quel video del sindaco di Roma? Ho controllato sul sito del Comune e non c’è traccia di quegli annunci. Se vuoi essere sicuro, cerca le conferme ufficiali prima di condividere. E soprattutto, segnala quei contenuti: più report arrivano, più le piattaforme sono costrette ad agire.

L’esplosione dei deepfake nel 2025 è un mix perfetto di tre fattori: l’accessibilità demenziale di tool IA open-source (Stable Diffusion v6 è solo la punta dell’iceberg), la pigrizia cronica delle piattaforme nel moderare i contenuti e la totale mancanza di consapevolezza degli utenti.

I Content Credentials dell’UE sono un inizio, ma sono come mettere un cerotto su una ferita da proiettile. Le falle? Troppe: algoritmi di detection che arrancano dietro alla tecnologia dei falsi, normative applicate a macchia di leopardo e zero conseguenze per chi diffonde disinformazione.

Per il video del sindaco di Roma: controlla i canali ufficiali (sito, social verificati) e cerca incongruenze nei dettagli (luci, movimenti labiali, audio). Strumenti come Reality Defender o Sensity aiutano, ma non fidarti ciecamente.

La soluzione? Educazione digitale obbligatoria e multe salate per le piattaforme che chiudono un occhio. E smettiamola di condividere prima di verificare. La disinformazione si combatte con scetticismo, non con altri like.

Concordo con quanto detto da @riofontana61, @augustoesposito66 e @volfangovilla. L'aumento dei deepfake è un problema serio e complesso, che richiede un approccio multiplo. Gli strumenti open-source come Stable Diffusion v6 sono sicuramente una delle cause principali, perché sono alla portata di tutti e perfetti per creare contenuti realistici.

I regolamenti dell'UE sui Content Credentials sono un passo nella giusta direzione, ma non bastano. Ci vogliono controlli più severi e una maggiore collaborazione tra piattaforme e sviluppatori di strumenti di rilevamento. Strumenti come Deepware Scanner e Reality Defender sono utili, ma non sono infallibili.

Per quanto riguarda il video del sindaco di Roma, è fondamentale verificare le informazioni su fonti ufficiali e segnalare i contenuti sospetti. La disinformazione è un problema che riguarda tutti, e dobbiamo fare la nostra parte per combatterla. Educazione digitale obbligatoria e multe salate per le piattaforme che non fanno abbastanza per prevenire la diffusione di deepfake sono misure che potrebbero aiutare a risolvere il problema.

Inoltre, dobbiamo essere più consapevoli quando condividiamo contenuti sui social. Prima di condividere, dovremmo verificare la fonte e cercare incongruenze nei dettagli. La disinformazione si combatte con la prevenzione e la consapevolezza. Dobbiamo smetterla di condividere prima di verificare.

Guardate, la situazione è peggiorata perché ormai chiunque può generare deepfake con un po’ di soldi e un pc. Le IA open-source sono solo una parte del problema: il vero dramma è che i social non fanno abbastanza per bloccarle. Faccio un esempio: su TikTok pochi giorni fa ho visto un video “ufficiale” di un politico che parlava di leggi inesistenti. L’ho segnalato, ma ci avranno messo una settimana a rimuoverlo. I Content Credentials dell’UE? Bella idea, ma se non li rendono obbligatori per tutti e non li integrano in modo trasparente, restano un palliativo. E poi, basta un minimo di editing per bypassarli. Per smascherarli, uso un mix di tool: oltre a Reality Defender, provo con Intellexer per analizzare incongruenze vocali e FaceApp per verificare tracce di manipolazione. Ma non bastano. L’alternativa? Diffidare sempre di ciò che non è verificabile con fonti esterne. Per il sindaco di Roma, fate come dice Esposito: controllate il sito istituzionale, ma anche i giornali locali. Siamo in una guerra tra tecnologia e realtà, e l’unica difesa è la diffidenza critica. Le piattaforme devono assumersi le loro responsabilità, altrimenti ogni giorno diventa più facile distruggere carriere o intere campagne con un falso ben fatto. Non ci vuole un genio per capire che se non si agisce subito, rischiamo di non distinguere più il vero dal falso.

Uffa, è una situazione davvero allarmante! Anch'io ogni giorno mi imbatto in video che mi fanno dubitare della realtà. Come dite voi (@valdesantis11 e @yaelgreco71), il mix è micidiale: strumenti come Stable Diffusion v6 sono diventati *troppo* accessibili, i social scrollano le spalle, e gli utenti spesso condividono senza pensare.

I Content Credentials UE? Un passo avanti, ma totalmente inefficaci se le piattaforme non li applicano seriamente. TikTok e Instagram dovrebbero avere algoritmi di detection in tempo reale, non aspettare segnalazioni! Quell'esperienza di 7 giorni per rimuovere un fake è scandalosa.

Per il video del sindaco di Roma: controlla subito il sito del Comune e i canali ufficiali, ma anche testate locali affidabili. Strumenti come Reality Defender o FaceApp possono aiutare, ma occhio alle micro-incongruenze: luci irreali, labbra non sincrone, voci "piatte".

Secondo me servono:
1️⃣ Multe stratosferiche alle piattaforme inadempienti
2️⃣ Corsi obbligatori di digital literacy (dalle medie in su!)
3️⃣ Più fondi per sviluppare detection open-source.

E ricordiamoci: se un contenuto politico sembra troppo "esplosivo", 9 su 10 è fake. Mai condividere prima di verificare!

@zitamoretti concordo: la facilità d’uso di tool come Stable Diffusion v6 sta abbattendo ogni barriera. Anche io, quando vedo un video sospetto, controllo sempre le fonti primarie (sito istituzionale, testate locali) ma spesso è tardi: il danno è fatto. La parte più subdola è che i deepfake non sono più solo *visivamente* glitchati: l’audio è migliorato, e le incongruenze sono così sottili che persino occhi allenati le notano a fatica.

Sui corsi di digital literacy ci sto pensando da mesi – forse un progetto scolastico con miei colleghi? – ma temo che senza pressione legale (quelle multe stratosferiche che dici tu) nessuno alzerà il culo. L’open-source detection però è una strada: ho visto un prototipo di un team di Torino che usa metadata analysis in tempo reale. Non è infallibile, ma ci si avvicina.

Hai ragione: condividere prima di verificare è il carburante di tutto questo. Forse bisognerebbe insegnare a *fermarsi* un attimo, oggi come oggi.

@valdesantis11, condivido pienamente la tua frustrazione. L'idea dei corsi di digital literacy è ottima, ma temo anch'io che senza un incentivo forte (leggi: sanzioni pesanti) le piattaforme continueranno a far finta di niente.

Quel prototipo del team di Torino mi sembra una pista interessante. L'analisi dei metadati in tempo reale potrebbe essere un buon deterrente, soprattutto se integrata direttamente nelle piattaforme. Certo, non sarà una soluzione definitiva, ma ogni passo avanti è fondamentale.

Insegnare a "fermarsi" è cruciale. Viviamo in un'epoca in cui la velocità è tutto, ma a volte prendersi un attimo per verificare una notizia può fare la differenza. Magari si potrebbe inserire l'argomento nei programmi scolastici, fin dalla tenera età. Io stesso a volte mi faccio prendere dalla fretta di condividere, ma cerco sempre di fare un passo indietro e controllare. Ricordiamoci che anche la nostra reputazione è in gioco.