I professionisti della sicurezza informatica stanno già perdendo il sonno pensando a come individuare ed evitare i deepfake. Si tratta di una nuova minaccia informatica che può attaccare a tutti indistintamente, non solo alle imprese ma anche ai privati. Con l’utilizzo dell’intelligenza artificiale si possono creare video o immagini estremamente realistiche in cui i falsi protagonisti agiscono in un contesto estremamente imbarazzante. L’IA è in grado di generare video falsi in cui spesso compaiono i volti di celebrità o altre immagini false. Questi video deepfake sono particolarmente preoccupanti per il loro potenziale di disinformazione o truffa
L’FBI ha avvertito nel 2021 che i deepfake e altri contenuti sintetici minacciano la sicurezza. Strumenti semplici come Photoshop possono generarli, ma con l’IA ed il Machine Learning, ora è stato fatto un enorme salto di qualità. Oggi con L’IA si possono manipolare foto, video, discorsi per creare contenuti sintetici che ingannano l’occhio umano. I deepfake imitano sempre più spesso lo stile, il volto, la voce e i manierismi di persone reali.
Così come l’IA va migliorando sempre più le sue capacità di imitare la realtà, allo stesso modo migliora la possibilità di generare fake news, frodi, manipolazioni e truffe del tutto verosimili, rendendo così più difficile separare i fatti dalla finzione.
I deepfake possono essere creati utilizzando software e strumenti di IA open-source, quindi sono diventati più facili da generare e diffondere, anche da parte di dilettanti con competenze tecniche limitate.
Come vengono usati i deepfake?
Manipolazione e disinformazione. I deepfake sono spesso creati per diffondere deliberatamente fake news, manipolare l’opinione pubblica o minare la fiducia nelle fonti di informazione. Rappresentano una grave minaccia per un giornalismo accurato e per la verità.
Truffe di impersonificazione. I criminali usano i deepfake per impersonare gli obiettivi al telefono o in videochiamate per indurli a inviare denaro o a rivelare dettagli sensibili. Queste truffe video stanno diventando sempre più comuni.
Revenge porn. I deepfake possono essere utilizzati per inserire realisticamente il volto di una persona in immagini e video pornografici senza il suo consenso.
Propaganda politica. I deepfake sono sempre più utilizzati da politici, lobbisti per generare annunci, video o clip audio ingannevoli per screditare gli avversari politici ed influenzare l’opinione pubblica durante le elezioni.
Sfruttamento delle celebrità. I deepfake consentono di generare automaticamente false immagini di nudo delle celebrità, senza il loro consenso ed in violazione della privacy.
Ransomware. Alcune bande di ransomware hanno iniziato a usare i deepfake per indurre le vittime a scaricare malware o a rivelare le credenziali di accesso impersonando un dirigente o un collega di un’azienda attraverso una chat video.
Umiliazione e abuso. I deepfake facilitano la condivisione non consensuale di immagini private e di contenuti degradanti/manipolativi rivolti a donne, minoranze e altri gruppi. Questi abusi contribuiscono alle molestie online e ai pericoli del mondo reale.
Frodi e furti di identità. Generando ID, profili, discorsi o altri media falsi e realistici a nome di qualcun altro, i deepfake possono essere utilizzati per rubare identità, fondi o commettere frodi assicurative, truffe e altri reati finanziari.
Violazione della privacy. Qualsiasi rappresentazione di qualcuno impegnato in atti privati come l’intimità, le procedure mediche, le pratiche religiose o altro potrebbe essere violata dalla diffusione di deepfake mirati.
Bullismo e molestie. I deepfake hanno iniziato a essere utilizzati da cyberbulli, troll e molestatori online per amplificare gli abusi contro le loro vittime in un altro modo. Nessuno è al sicuro da questi attori malintenzionati e dai loro media manipolati.
Violazione del copyright. I deepfake sono talvolta utilizzati per generare e distribuire automaticamente contenuti che violano il diritto d’autore, come falsi trailer di film, parodie pornografiche o clip doppiate/sottotitolate di programmi televisivi, film e videogiochi senza l’autorizzazione dei creatori o dei titolari del copyright.
Questi sono alcuni degli usi più significativi e preoccupanti dei deepfake secondo i ricercatori, gli esperti e i rapporti sugli incidenti che si sono verificati. Complessivamente, i deepfake pongono rischi importanti per la verità, la fiducia, la privacy, il consenso, la sicurezza e la proprietà intellettuale che richiedono una risposta coordinata a livello globale.
Anche gli hacker utilizzano i deepfake
I deepfake sono ampiamente usati anche dagli hackers, che li usano come uno strumento in più per fare attacchi ransomware. Tradizionalmente il deepfake viene usato nel fishing per indurre la vittima a cliccare sulla falsa notizia e così involontariamente scaricare anche il malware nel suo sistema informatico. Oppure viene usato per ricattare la vittima con le minacce di rivelare pubblicamente presunti comportamenti illeciti ma falsi, con inevitabile danneggiamento della reputazione in caso di mancato pagamento.
Le tecniche di digital forensic possono potenzialmente aiutare a individuare i deepfake analizzando vari indizi lasciati nelle immagini, nei video e nei file multimediali.
Deepfake di Putin Fonte Wikipedia
Alcuni consigli per individuare i deepfake
L’apparenza dei deepfake appare quasi perfetta, ma se prestiamo attenzione a tanti dettagli, possiamo renderci conto che si tratta di un falso.
Controlla i dettagli extra. I deepfake spesso presentano piccoli difetti nei dettagli o mancano di micro espressioni che sarebbero normalmente presenti. Cerca le incongruenze nell’illuminazione, le ombre o i riflessi che sembrano fuori posto.
Analizza il contatto visivo e il battito delle palpebre. I soggetti finti spesso hanno un contatto visivo eccessivo o insufficiente e sbattono le palpebre in modo irregolare o innaturale. Le persone reali sbattono frequentemente le palpebre in modo casuale.
Cerca ombre o sfocature. I deepfake possono presentare ombre o bordi sfocati sul soggetto che lo fanno sembrare un’immagine mal composta.
Verifica la presenza di problemi di transizione. Quando un soggetto deepfake si muove o passa, i bordi intorno alla persona possono scomparire o comparire altri artefatti, a indicare che è stato inserito.
Cerca i picchi di informazioni visive. I deepfake possono presentare un improvviso aumento dei dettagli o della pixelatura in alcune aree che risaltano in modo evidente rispetto al resto dell’immagine.
Confronta con altri filmati. Se esistono altri video o immagini della stessa persona, nota eventuali differenze nell’aspetto, nei suoni o nello stile che non corrispondono. I deepfake tendono a imitare esageratamente gli attributi del soggetto.
Fai attenzione agli errori di inquadratura. L’inquadratura o la composizione possono cambiare improvvisamente angolazione o lasciare parti della persona tagliate fuori dal bordo dell’inquadratura in modo innaturale.
Controlla la qualità e la sincronizzazione dell’audio. Se c’è una traccia audio, ascolta se ci sono differenze di tono, ritmo o volume che sembrano fuori dallo stile normale del soggetto. Inoltre, l’audio e il video dovrebbero essere perfettamente sincronizzati, cosa che spesso i deepfake non riescono a fare.
Cerca gli attributi della macchina. Alcuni ricercatori hanno scoperto che i deepfake possono presentare pixelature, sfocature o artefatti di colore lungo i bordi che ricordano i pixel di uno schermo digitale. Ma questo non si verifica sempre, quindi non dovrebbe essere l’unico indizio.
Sii scettico nei confronti di affermazioni scioccanti. I deepfake sono spesso creati per scioccare, indignare o generare traffico/click. Sii molto dubbioso su qualsiasi affermazione che sembra progettata per provocare una forte reazione emotiva piuttosto che per informare.
Queste sono alcune delle tecniche consigliate dai ricercatori per individuare i deepfake e i media sintetici. Ma non esiste ancora un metodo infallibile, quindi attenersi ai fatti e adottare un sano scetticismo restano importanti quanto l’individuazione
Come prevenire i deepfake
Per diminuire le probabilità di essere oggetto di un attacco deepfake, si suggerisce di limitare la pubblicazione di foto e video nei social, per evitare che diventino oggetto di manipolazione. Qui di seguito trovi alcuni consigli per proteggere te stesso e la tua famiglia dai deepfake.
Comincia con essere più cauto nel condividere foto/video personali sui social media. Più contenuti rivelatori o compromettenti esistono online, più sei vulnerabili ai deepfake. Limitare l’eccessiva condivisione di immagini e video, quando possibile. Evita anche di taggare luoghi o dettagli che possano identificare il tuo luogo di residenza. I deepfake sono talvolta utilizzati per scopi criminali come stalking, swatting o molestie.
In quanto alle richieste di amicizia sui social, diffida delle richieste di amicizia non richieste o dei messaggi con allegati dei link. Non cliccare mai su link né scaricare allegati da mittenti sconosciuti o sospetti. Potrebbero contenere malware utilizzato per compromettere i tuoi account o le tue fotocamere. Utilizza solo profili privati. Assicurati che i contenuti pubblicati siano visibili solo agli amici e ai familiari approvati.
Stai attento ai segnali che indicano che le tue immagini vengono pubblicate e/o condivise da account sconosciuti o in contesti particolari. Se ricevi molestie, minacce o tentativi di estorsione che fanno riferimento a media manipolati contatta subito le autorità.
Queste sono alcune raccomandazioni per proteggere se stessi, le famiglie e la società dalla minaccia dei deepfake. La chiave è limitare l’accesso alle informazioni che potrebbero essere usate contro di te, essere consapevole dei rischi, osservare i segnali di abuso e agire per costruire difese a livello individuale. Con la vigilanza e la prevenzione, puoi ridurre notevolmente la tua vulnerabilità ai deepfake.
Strumenti gratuiti open-source per il rilevamento dei deepfake
Sono disponibili alcuni strumenti open-source gratis per il rilevamento dei deepfake, tra cui:
1. FaceForensics: È un toolkit per il rilevamento dei deepfake che include diversi metodi di rilevamento, tra cui l’analisi del movimento della testa, il rilevamento dello scambio di volti e il rilevamento di incongruenze nell’illuminazione e nelle ombre.
2. Deep Video Portraits: È uno strumento open source per il rilevamento dei deepfake che utilizza l’apprendimento automatico per analizzare il movimento e l’aspetto delle persone nei video.
3. Fawkes: È uno strumento open-source che aiuta a proteggere le immagini dall’uso per creare deepfakes aggiungendovi un rumore impercettibile.
4. OpenFaceSwap: è uno strumento open-source per la creazione e il rilevamento di scambi di volti in immagini e video.
Questi strumenti possono essere utilizzati da ricercatori, sviluppatori e altri interessati a rilevare i deepfake. È importante notare che, sebbene questi strumenti possano essere utili, non sono infallibili e potrebbero non individuare tutti i casi di media manipolati. È inoltre importante utilizzare questi strumenti in modo responsabile ed etico e considerare il potenziale impatto sulla privacy e sulla libertà di parola.
Come sanzionare legalmente un deepfake?
Attualmente la Commissione Europea sta elaborando una Proposta di Regolamento Europeo sull’intelligenza Artificiale in cui, all’art. 52 comma 3 definisce il deepfake come “sistema di intelligenza artificiale che genera o manipola immagini o contenuti audio o video che assomigliano notevolmente a persone, oggetti, luoghi o altre entità o eventi esistenti e che potrebbero apparire falsamente autentici o veritieri per una persona”
In Italia, l’Autorità italiana Garante per la Protezione dei Dati Personali ha pubblicato, sul proprio sito istituzionale, un vademecum sul tema, scaricabile in formato pdf.
Attualmente esistono alcune leggi e regolamenti che possono essere applicati ai deepfake, ma non sono ancora state approvate leggi complete che riguardino specificamente i deepfake. Alcune delle leggi pertinenti sono:
Leggi sulla diffamazione: Creare e diffondere deepfake che intenzionalmente diffondono informazioni false su qualcuno in modo da danneggiarne la reputazione può essere potenzialmente una diffamazione. Le leggi sulla diffamazione variano da Paese a Paese, ma mirano a proteggere le persone da falsità dolose che danneggiano la loro reputazione.
Leggi sulla privacy: I deepfake che comportano l’uso non consensuale dell’immagine, delle sembianze o della privacy di qualcuno possono violare le leggi sulla privacy, come l’invasione della privacy per falsa testimonianza.
Leggi sui diritti d’autore: Scambiare volti in contenuti protetti da copyright come film, spettacoli televisivi, libri, ecc. senza autorizzazione può violare il diritto d’autore. Alcuni deepfake sono essenzialmente remake o rivisitazioni non ufficiali di proprietà intellettuali.
Leggi sui crimini informatici: In rari casi, la diffusione dolosa di deepfake è stata perseguita in base a leggi generali come quella contro le molestie informatiche, il cyberbullismo o la distribuzione di contenuti osceni. Ma queste leggi non sono state concepite specificamente per i deepfake.
Le questioni legali relative ai deepfake sono ancora in evoluzione, quindi le leggi potrebbero cambiare in futuro. Per il momento, però, esiste la possibilità di perseguire i deepfake più dannosi, facendo riferimento a leggi già esistenti.