Deepfake voce: cosa sono, i rischi e come difendersi

La storia dei documenti, di qualunque tipo essi siano, va di pari passo con la storia della falsificazione dei documenti stessi. In genere, più la tipologia di documento è complessa, più è difficile falsificarla: manipolare una fotografia è più difficile che modificare un testo scritto; falsificare un video è più difficile che contraffare un’immagine. L’altra faccia della medaglia è che più un documento è difficile da falsificare, più noi tendiamo a fidarci: “l’ho sentito con le mie orecchie” oppure “l’ho visto con i miei occhi” sono pensieri che automaticamente si generano nella nostra mente.

Cosa sono i Deepfake voce

Il deepfake voce può essere generato come complemento a un deepfake video oppure vivere di vita propria. Nel primo caso il suo ruolo è quello di rendere più credibile il deepfake video: se per esempio si vuole creare disinformazione riguardo a un personaggio noto, facendogli dire cose che non ha mai detto, ovviamente è molto più credibile se oltre a simulare l’aspetto si riesce a simularne anche la voce.

Nel secondo caso, cioè quando l’audio vive di vita propria, possiamo individuare cinque diverse tipologie di deepfake voce create con un generatore voce ai.

• Text to speech. Dal testo al parlato: si scrive qualcosa e il programma pronuncerà quanto abbiamo scritto con la voce desiderata. Una tecnologia del genere può essere usata, ad esempio, per generare la voce che accompagna un documentario.
• Trasformazione vocale. In questo caso l’input è fornito da una persona che parla, e il programma trasformerà la sua voce nella voce che desideriamo. Questo tipo di fake, così come quello precedente, si usano per far dire alla “voce falsa” qualunque cosa desideriamo.
• Emotional fake. In questo caso non si interviene su ciò che viene detto, ma su come viene detto. Modificando l’intonazione della voce, una stessa frase può assumere un tono di gioia, di rimprovero o di dubbio cambiando drasticamente il senso di quanto detto.
• Falso ambientale. Non si interviene su ciò che dice chi sta parlando ma sull’audio di sottofondo, per esempio aggiungendo come sfondo un rumore di aeroporto o di ufficio.
• Falso parziale. Per stravolgere il significato di un’affermazione non sempre è necessario cambiarla completamente, a volte basta aggiungere o togliere una o due parole (per esempio un “non”).

Come riconoscere i deedfake

Allo stato attuale della tecnologia non esiste un modo semplice e lineare per riconoscere video e audio falsi. Quello che si può fare è ragionare. Proviamo a individuare tre casi in cui approfondire la veridicità di un contenuto potrebbe essere utile.

• Deepfake innocui. Ad esempio un video in cui Tom Cruise canta Tiny Dancer a Paris Hilton. Potresti avere la curiosità di sapere se quello è veramente Tom Cruise o è un deepfake, ma saperlo non ha alcuna conseguenza pratica - negativa o positiva - sulla tua vita. Puoi tranquillamente lasciar correre senza investigare sulla faccenda.
• Deepfake potenzialmente dannosi per la società. Per esempio un politico che prima delle elezioni dice una cosa aberrante o fa una promessa troppo bella per essere vera. In generale, più un video o un audio scatenano in noi reazioni viscerali, più conviene chiedersi se siano veri oppure no. Trattandosi di contenuti che hanno un potenziale impatto sulla società si può sperare che la verifica venga fatta dai media, seguendo il tradizionale percorso che si usa per confermare o smentire le notizie, senza bisogno di particolari ausili informatici.
• Deepfake mirati a ingannare specificatamente te. Ricevi una telefonata, una voce che non conosci ti informa che un tuo caro è rimasto coinvolto in un incidente o in un’altra situazione complicata e ha urgente bisogno di soldi per poterne uscire. Questo tipo di truffa già esiste, non ha bisogno di deepfake per essere messa in atto e, per essere efficace, fa leva sulla confusione generata dalla situazione di allarme. Se il truffatore, invece di spacciarsi per un amico del tuo caro, potesse usare un deepfake della voce del tuo caro spacciandosi direttamente per lui (creata con un generatore di voce ai), le probabilità di riuscita della truffa aumenterebbero. Deepfake o no, da questo tipo di attacco ci si difende restando coi piedi per terra, chiedendo riferimenti precisi che, prima di sborsare anche un solo centesimo, permettano di effettuare dei controlli sulla veridicità di quanto ci stanno dicendo.

Come difendersi dai deepfake

Con l’avanzare della tecnologia i deepfake diventeranno sempre più verosimili. Anche le procedure di “smascheramento” subiranno questo processo ma saranno sempre un passo indietro rispetto alla falsificazione. Cosa fare quindi per difendersi?

La prima linea di difesa è personale e valgono le considerazioni che si fanno di fronte a qualunque altro tentativo di inganno e raggiro:

• ragionare sempre su ciò che vediamo e ascoltiamo;
• ·non comunicare i nostri dati sensibili a sconosciuti;
• essere molto cauti di fronte a richieste di denaro improvvise anche se apparentemente provengono da persone a noi vicine.

La risposta, in ogni caso, non può essere solo individuale. Anche immaginando una persona che sa identificare il 100% dei deepfake, questa potrà difendersi dagli attacchi diretti a lei (per esempio un tentativo di truffa basato sulla voce di un familiare) ma è inerme di fronte a una serie di deepfake politici che riescano a influenzare una quantità di persone tali da modificare l’esito di un’elezione.

La risposta deve dunque essere anche politica e sociale: la società dovrà difendersi come ci si difende da ogni altro pericolo diffuso, con i consueti strumenti di lotta al malaffare da un lato e di educazione dall’altro. A tal proposito si veda il vademecum predisposto dal Garante per la protezione dei dati personali.