Deepfake è una nuova tecnologia che può essere utilizzata per manipolare video e audio, con l’intenzione di produrre contenuti multimediali falsi. Ultimamente è stato molto nelle notizie in termini di utilizzo per scopi politici, ma ha molti altri potenziali usi sia nell’industria che nell’intrattenimento.
Cos’è un deepfake e come funziona
Un deepfake viene creato quando qualcuno utilizza un programma di intelligenza artificiale per generare un’immagine, un video o una clip audio di qualcosa che non è mai accaduto nella realtà. Questi sono spesso abbastanza facili da identificare perché il contenuto falso di solito presenta errori o contraddizioni quando viene incrociato con media autentici
Come usare i deepfake per sempre
Finora le persone hanno utilizzato questa tecnologia per i video satirici
I pericoli dell’utilizzo di deepfake per scopi dannosi
Questa tecnologia può essere utilizzata per creare disinformazione a cui le persone crederanno senza dubbio, il che potrebbe portare a conseguenze disastrose in futuro. Ad esempio, immagina se fosse stato rilasciato il filmato di un capo di stato che afferma di voler lanciare un attacco nucleare
Le implicazioni del futuro delle fake news su politica, giornalismo e società
In futuro, sarà più facile che mai generare falsi media a cui la gente crederà senza dubbio, il che potrebbe portare a conseguenze disastrose in futuro. Ad esempio, immagina se fosse stato rilasciato il filmato di un capo di stato che afferma di voler lanciare un attacco nucleare
Soluzioni per combattere questi problemi in futuro
Sarà sempre più importante per le persone di ogni estrazione sociale, inclusi i giornalisti, verificare i contenuti attraverso più fonti prima di segnalare qualsiasi cosa come vera o anche semplicemente condividere qualcosa sui social media. Potrebbe anche essere vantaggioso per le aziende tecnologiche come YouTube o Facebook fare di più che fare affidamento solo sugli utenti che segnalano i contenuti come problematici in qualche modo
Osservazioni conclusive sull’importanza del potenziale impatto di questa tecnologia sulla società
In futuro, sarà più facile che mai generare falsi media a cui la gente crederà senza dubbio, il che potrebbe portare a conseguenze disastrose in futuro. Ad esempio, immagina se fosse stato rilasciato il filmato di un capo di stato che afferma di voler lanciare un attacco nucleare.
Deepfakes, come evitare di essere ingannati?
“Deepfakes” è un termine che si riferisce a video o immagini modificati di persone che sembrano fare qualcosa che in realtà non hanno fatto. Questi video e immagini falsi profondi possono essere creati utilizzando software di intelligenza artificiale (AI), come FakeApp. I video e le immagini deepfake potrebbero essere utilizzati per creare notizie false profonde o per qualsiasi numero di scopi dannosi. Per la loro sicurezza, le persone dovrebbero assicurarsi di avere un software aggiornato, utilizzare password univoche su ogni sito che visitano, non memorizzare mai password nel proprio browser, disabilitare Flash se non è necessario, evitare di installare estensioni del browser offerte tramite i pop up sul web siti di cui non ti fidi, evita di scaricare software piratato, se possibile, e dai un’occhiata ai nostri suggerimenti su come evitare video e immagini deepfake di seguito.
Ci sono alcuni fattori che possono aiutarti a evitare di essere ingannato da un video o un’immagine falsi. Innanzitutto, dovresti mantenere aggiornato il tuo software perché spesso include aggiornamenti di sicurezza. Se il tuo software non è aggiornato, potrebbe essere possibile che qualcuno sfrutti le vulnerabilità della sicurezza nelle vecchie versioni del software per accedere al tuo sistema a tua insaputa. In secondo luogo, se utilizzi password univoche (e le modifichi regolarmente), anche se un sito Web viene violato, non influirà su nessun altro sito Web che visiterai in futuro con la stessa password. Un terzo fattore è assicurarsi che Flash sia installato quando ne hai bisogno.
Come identificare un video deepfake
I video deepfake sono video che sono stati manipolati utilizzando l’intelligenza artificiale per far sembrare che qualcuno stia dicendo o facendo qualcosa che non ha fatto. I video deepfake possono essere utilizzati per una serie di motivi, tra cui propaganda, intrattenimento e disinformazione.
Per identificare un video deepfake, ci sono alcune cose che puoi cercare. Uno dei modi più semplici per identificare un deepfake è se la persona nel video ha un aspetto diverso da come appare di solito. Inoltre, puoi cercare movimenti insoliti nei lineamenti del viso della persona o movimenti innaturali delle labbra. Puoi anche ascoltare distorsioni o incongruenze audio.
Se non sei sicuro che un video sia reale o falso, può essere utile chiederti qual è lo scopo del video. Chi trarrebbe vantaggio dalla falsificazione di questo video? Se non sembra esserci una chiara motivazione per falsificare il video, è più probabile che il video sia accurato.
Un’altra cosa che puoi fare se stai cercando di capire se una persona ha detto qualcosa in un certo modo (ad esempio, in modo ingannevole) sarebbe ascoltare e confrontare la sua pronuncia con quella di altri discorsi che ha fatto. Ad esempio, se qualcuno ha già parlato pubblicamente di un problema in precedenza ma non ha mai pronunciato una parola in modo simile a come hanno fatto in questo nuovo discorso, questo segnale di inganno.
I primi deepfake sono stati creati utilizzando Adobe After Effects, che richiede agli utenti una conoscenza dell’editing video. Tuttavia, più recentemente l’IA è stata utilizzata per creare deepfake senza alcun input da parte dell’utente. Ciò riduce la quantità di lavoro di post-produzione necessario per la creazione di un video, ma fa ben poco per impedire a qualcuno di produrre un video falso completamente inosservato.
Un modo in cui puoi proteggerti dall’essere influenzato dai video deepfake è essere scettico quando guardi o leggi i media. Se qualcosa sembra storto, non crederci finché non avrai confermato che è vero. Ad esempio, controlla più fonti prima di credere a qualcosa che ascolti in televisione perché i video deepfake stanno diventando un modo sempre più comune per diffondere disinformazione online. E ricorda: solo perché qualcosa sembra vero non significa che lo sia.
Alcuni esempi di video deepfake del passato includono uno in cui l’ex presidente Obama ha parlato in tono razzista e un altro in cui l’attrice Gal Gadot sembrava affermare di appartenere allo “Stato islamico” (ISIS). Questi video mostrano quanto può essere facile per chiunque abbia accesso alla giusta tecnologia e competenza creare deepfake che sembrano reali. La facilità con cui questi video possono essere creati rende anche difficile per molte persone distinguere ciò che è reale e ciò che non lo è.
Comprendere come sono realizzati questi video e conoscere alcuni modi per identificarli è essenziale se vuoi proteggerti dal cadere vittima o promuovere inavvertitamente informazioni false online.
Come rimanere informati in una società post-verità
Se vuoi rimanere informato, ci sono alcuni passaggi che puoi fare. Il primo passo è evitare di leggere informazioni che non sono state corroborate da più fonti credibili. Dovresti anche considerare quale potrebbe essere la motivazione per condividere questo tipo di informazioni. Se la fonte sembra parziale o se non c’è una chiara spiegazione del motivo per cui stanno condividendo qualcosa, allora dovresti riconsiderare quanta fiducia hai nelle informazioni presentate. Inoltre, ricorda che solo perché qualcosa sembra vero non significa che lo sia. Potrebbe non essere saggio basare la tua opinione su informazioni false, quindi cerca di non saltare a conclusioni affrettate finché non hai avuto il tempo di verificare ciò che vedi online. Se non sei sicuro che un video sia reale o falso, chiediti qual è lo scopo del video. Chi trarrebbe vantaggio dalla falsificazione di questo video? Puoi anche cercare movimenti insoliti nei lineamenti del viso della persona o movimenti innaturali delle labbra. E infine, se stai cercando di capire se una persona ha detto qualcosa in un certo modo (ad esempio, in modo ingannevole) sarebbe utile ascoltare e confrontare la sua pronuncia con quella di altri discorsi che ha fatto. Ad esempio, se qualcuno ha già parlato pubblicamente di un problema in precedenza ma non ha mai pronunciato una parola in modo simile a come hanno fatto in questo nuovo discorso, questo segnale di inganno.
Il volto della rivoluzione deepfake
La rivoluzione del deepfake è un fenomeno in corso in cui le persone possono creare video di persone che dicono o fanno cose che non hanno mai fatto. La tecnologia alla base dei deepfake si chiama “deep learning”, che è un tipo di apprendimento automatico che consente ai computer di imparare a fare le cose con l’esempio.
Questa tecnologia è già stata utilizzata per creare video falsi di celebrità e da qui andrà solo peggio. Dobbiamo essere consapevoli di questa tecnologia ed essere preparati alle conseguenze.
Le conseguenze di questo tipo di tecnologia sono immense. Per prima cosa, è molto facile ingannare le persone facendole pensare che questi video siano reali. Sono stato in grado di trovare un subreddit in cui le persone creano video falsi con relativa facilità e la qualità è pazzesca. Un video creato da qualcuno su questo subreddit ha ottenuto quasi 11.000 voti positivi. Questo è inquietante perché significa che c’è un’intera comunità disposta a condividere video falsi come se fossero reali. Inoltre, non ci sono leggi contro il deepfake, quindi sarà interessante vedere come questo genere di cose progredirà nei prossimi anni.
Un’altra conseguenza è che potremmo perdere la nostra fiducia nei media digitali nel loro insieme e smettere di usare i media digitali per cose come l’istruzione e la documentazione. Un esempio è il video di Barack Obama che parla di “fake news” che in realtà è stata creata da qualcun altro. Questo mostra quanto sia facile far sembrare le persone cattive, ma questa tecnologia sarà ancora più pericolosa se utilizzata con discorsi politici che hanno implicazioni reali per la vita delle persone.
Ho trovato un sito Web in grado di creare video falsi utilizzando solo le foto di Facebook. Basta caricare 3-20 foto del tuo viso e il software le combinerà in un video dall’aspetto realistico in cui dici quello che vuoi. Le persone stanno già iniziando a utilizzare questi video per vendicarsi dei loro ex o vendicarsi di persone che li hanno fatti del male. Penso che questo sia pericoloso perché significa che potremmo perdere la fiducia l’uno nell’altro come esseri umani se il deepfake diventa più popolare.
Questa tecnologia crea dipendenza e ha il potenziale per renderci ossessionati da cose che non esistono. Molte persone hanno già perso tempo cercando di sfatare i video realizzati con questa tecnologia, il che significa che vengono ingannati tutto il tempo. Un esempio è un video in cui Barack Obama dice “Abbiamo ucciso Osama Bin Laden” che è stato creato da qualcuno. Questo mostra quanto sia facile ingannare le persone che usano questo tipo di tecnologia, quindi penso che tutti dovrebbero essere consapevoli della sua esistenza prima di prendere qualsiasi tipo di decisione in base a ciò che vedi online. Abbiamo bisogno di leggi contro il deepfake perché credo che questi video si riveleranno distruttivi per le relazioni tra le persone nella società se gli sarà permesso di progredire senza limitazioni. Dividerà la nostra società in due gruppi poiché coloro che sanno saranno cauti nei confronti di tutto ciò che vedono online e quelli che non lo vedono. Ciò avrà un effetto negativo sulla nostra società nel suo insieme perché le persone non saranno in grado di fidarsi di ciò che è reale e di ciò che non lo è, il che significa che avremo meno probabilità di comunicare tra noi o condividere cose importanti come documentazione e istruzione attraverso media digitali.
Deepfakes, perché i tuoi dati non valgono nulla?
Esistono tre tipi di dati che non valgono nulla: Deepfakes, Your Data, Your Future.
I deepfake sono video creati con l’intelligenza artificiale. Sono in genere utilizzati per creare film trasformando il viso di una persona sul corpo di un’altra persona o per altri scopi ingannevoli. Questo tipo di tecnologia può essere utilizzata per creare contenuti video falsi che potrebbero potenzialmente destabilizzare la nostra società. Simile a Deepfakes, anche i tuoi dati non valgono nulla perché possono essere manipolati per servire a qualsiasi scopo. L’ultimo tipo di dati che non valgono nulla è il tuo futuro perché non può essere visto. Le persone cercano sempre di prevedere il futuro, ma è piuttosto difficile.
Deepfakes – Cosa devi sapere su questo incubo digitale
I deepfake sono un tipo di manipolazione digitale che utilizza l’intelligenza artificiale per creare video di persone che sembrano dire o fare cose che non hanno mai detto o fatto. I video deepfake sono spesso usati per creare video falsi, ma possono anche essere usati per creare notizie false o per manipolare l’opinione pubblica.
I video deepfake sono un incubo digitale perché possono essere usati per diffondere bugie e disinformazione. Possono anche essere usati per ricattare persone o per danneggiare la loro reputazione. I video deepfake sono molto difficili da rilevare, quindi è importante esserne consapevoli ed essere scettici nei confronti di qualsiasi video che sembra troppo bello per essere vero.
I video deepfake sono realizzati con una combinazione di apprendimento automatico e intelligenza artificiale. Il primo passo è creare un set di dati che includa il video della persona a cui vuoi far dire o fare qualcosa che non ha mai fatto. Puoi utilizzare gli strumenti disponibili gratuitamente per generare questo set di formazione, che includerà centinaia o migliaia di brevi video del tuo target. Gli algoritmi di apprendimento automatico vengono quindi utilizzati per acquisire questi singoli video e “imparare” come dovrebbe apparire il viso quando fa espressioni diverse o pronuncia parole diverse. Una volta raccolti dati sufficienti, gli algoritmi di apprendimento automatico possono generare nuovi video falsi che sembrano molto realistici e naturali.
Il termine Deepfakes è stato coniato da un utente anonimo di Reddit.
Cos’è l’audio deepfake?
L’audio deepfake è una tecnologia emergente che consente la creazione di una registrazione falsa. Funziona in modo tale da creare un suono o un video con la voce di qualcuno e metterlo sul corpo di un’altra persona. Questo è in genere usato dalle persone per mettere in imbarazzo gli altri, ma i deepfake possono anche essere usati per creare video e registrazioni falsi al fine di screditare o minacciare politici e celebrità.
L’audio deepfake è una tecnologia relativamente nuova emersa negli ultimi due anni, ma sta diventando sempre più popolare grazie alla sua facilità d’uso. Esistono diversi siti Web online in cui le persone caricano suoni e altri utenti possono metterli in bocca a qualcun altro per creare video. Questo processo è reso possibile dall’intelligenza artificiale (AI) che può essere utilizzata per molteplici scopi, incluso l’editing di video o la creazione di falsi. Funziona prelevando dati da una sorta di sorgente audio e utilizzandola per ulteriori elaborazioni per completare il lavoro video. Le persone hanno usato deepfake con i discorsi dei politici per screditarli o con l’audio esplicito delle celebrità per umiliarli.
Quali sono le possibili implicazioni dei deepfake?
I deepfake sono un tipo di video generato dall’intelligenza artificiale che è apparso di recente su Internet. Questi video sono creati da algoritmi e fanno dire alle persone cose che non hanno mai detto o che sembrano fare qualcosa che non hanno mai fatto. In questo modo, i deepfake possono essere utilizzati come una forma di disinformazione per cambiare la percezione della realtà da parte delle persone. È molto probabile che i deepfake continuino a proliferare e diventino più persuasivi col passare del tempo perché gli algoritmi possono imparare dai precedenti video deepfake e migliorare nel tempo. Ciò potrebbe portare a un punto in cui non ci sarebbe più credibilità in nessun filmato, rendendo impossibile credere a tutto ciò che vediamo o sentiamo.
Una delle implicazioni più importanti di cui occuparsi è la questione dell’autenticità. Rilasciare notizie false è diventata una pratica sempre più facile e comune, tanto che è difficile sapere se qualche filmato o fotografia sia reale perché non possiamo mai esserne completamente certi. Internet contribuisce in modo significativo a questo problema. Quando cerchi qualcosa su Google, sei destinato a imbatterti in più siti Web che presentano informazioni contrastanti, rendendolo ancora più confuso mentre tenti di discernere cosa è vero e cosa non lo è. Se i deepfake diventano ampiamente considerati fonti di informazioni affidabili, l’effetto immediato sarà una perdita di fiducia in tutte le altre forme di contenuto a causa della loro incertezza. Potrebbe anche farci mettere in discussione tutto ciò che sentiamo o vediamo, anche le cose che sono state registrate con i nostri occhi.
In particolare, i giornalisti potrebbero essere colpiti dalla maggiore presenza di deepfake. Questa tecnologia potrebbe rendere loro impossibile sapere se le interviste che conducono sono reali o meno, il che mette a rischio la loro credibilità. Se le persone non credono più che ciò che segnalano sia accurato, allora ci sono buone probabilità che il loro pubblico diminuisca e le persone si rivolgano a fonti che offrono contenuti che sembrano più legittimi indipendentemente dalla loro validità. Finché il pubblico crede di ottenere la verità da qualche altra parte, la sua fiducia nei media mainstream continuerà a diminuire.
Inoltre, le implicazioni di una diffusa disinformazione possono causare cambiamenti nelle relazioni internazionali se alcuni paesi non affrontano questo problema abbastanza rapidamente. Ad esempio, se viene pubblicato un video deepfake che fa sembrare che i leader di due paesi si stiano insultando a vicenda, le rispettive popolazioni potrebbero diventare ostili l’una verso l’altra e sviluppare un falso senso di ostilità. Se il filmato originale non viene rilasciato e smentito abbastanza velocemente, è probabile che le persone continueranno a percepire la realtà poiché è stata distorta per loro dal video falso, il che rende molto più probabili gli scambi violenti tra i cittadini perché saranno stati incoraggiati ad agire in base a la loro rabbia verso un individuo che in realtà non esiste.
Potremmo anche assistere a un forte declino a Hollywood poiché gli spettatori smettono di andare al cinema perché preferiscono guardare i film a casa con i deepfake piuttosto che non avere effetti visivi realistici. L’industria potrebbe non essere in grado di tenere il passo con la tecnologia se si evolve più velocemente del tempo necessario per la produzione dei film, il che causerebbe un calo significativo dei ricavi. Potremmo anche iniziare a vedere film completamente generati dal computer perché gli attori non sono più necessari.
Sebbene i deepfake possano potenzialmente avere effetti positivi sull’arte, c’è molto più potenziale di conseguenze negative poiché l’IA continua ad avanzare e diffondersi in vari settori. È fondamentale che le persone diventino consapevoli del problema in modo da poter determinare come risolverlo prima che la disinformazione diventi impossibile da fermare o diventi troppo persuasiva per il proprio bene. Per questo motivo, gli sviluppatori dovrebbero testare continuamente gli algoritmi e trovare modi per limitare le loro capacità al fine di evitare che le informazioni vengano distorte. Ciò può comportare la limitazione dell’aspetto realistico dei video o la richiesta di certificati di autenticazione per condividere determinati contenuti. Ad esempio, affinché i video deepfake vengano pubblicati su Facebook, dovranno essere contrassegnati come verificati dopo essere stati esaminati dall’azienda .
Potrebbe anche arrivare il momento in cui smetteremo di considerare la realtà virtuale e la realtà aumentata come tecnologie avanzate a causa di quanto è diventata avanzata l’IA. Tutti i contenuti digitali potrebbero fondersi insieme, quindi è difficile dire cosa è autentico e cosa non lo è, il che distruggerebbe la nostra fiducia in una serie di forme di media. L’unico modo in cui possiamo impedire che ciò accada è se lavoriamo tutti insieme come società per porre fine a queste pratiche prima che abbiano qualche possibilità di avere successo. Non abbiamo idea di quanto lontano si spingerà la tecnologia deepfake se si rivelerà buona o cattiva per noi, ma non possiamo lasciare che comprometta la nostra capacità di percepire la realtà.
Quando ci aspettiamo di vedere un uso di massa dei deepfake?
I deepfake sono video generati dall’intelligenza artificiale o da algoritmi di apprendimento automatico. Gli utenti di Deepfake possono prendere alcuni secondi di video e trasformarlo in qualcosa che assomiglia a minuti. Deepfakes consente a una persona media di creare scambi di volti convincenti, imitazioni di voci o qualsiasi altro tipo di manipolazione che potresti vedere nei film.
Probabilmente vedremo l’uso di massa dei deepfake ad un certo punto perché l’IA sta migliorando nel riconoscere volti, voci e altre cose che rendono possibile l’uso di questo tipo di tecniche per diventare mainstream.
Il pubblico comincerà a vedere l’uso avanzato dei video deepfake quando sono tabelle da renderizzare in tempo reale. Ciò significa che quando un algoritmo impiega meno di pochi minuti per creare un video realistico. Più tempo ci vuole, meno è probabile che le persone siano disposte ad aspettare che si generi. La maggior parte delle persone non si preoccuperà o noterà se il rendering non è veramente in tempo reale perché la maggior parte ha smesso di prestare attenzione quando ha saputo che qualcosa è falso, purché un algoritmo possa ingannarli con successo con i loro occhi senza troppi sforzi. I progressi tecnologici nel riconoscimento facciale, negli algoritmi di apprendimento automatico e nel rendering digitale potrebbero far sì che il consumatore medio inizi a notare i video deepfake, ma probabilmente passeranno anni prima che ciò accada.
Inizieremo a vedere questo tipo di video tra tre o cinque anni perché non c’è stato molto progresso tecnologico di recente e questo è un concetto relativamente nuovo. Possiamo già creare video falsi tradizionali che sembrano reali utilizzando software di editing come Adobe Premiere Pro e After Effects. L’unica differenza tra questi e i video deepfake è che non possiamo controllare cosa dicono le persone o come muovono la bocca, quindi abbiamo bisogno di software come FakeApp, ad esempio, che utilizza algoritmi di apprendimento automatico per eseguire scambi di volti e cose simili. Ci vorrebbe molto tempo e denaro per creare contenuti sufficienti affinché il pubblico accetti i video di apprendimento automatico come reali. Abbiamo anche bisogno di ulteriori progressi tecnologici come stampanti 3D economiche ad alta risoluzione in grado di creare teste a grandezza naturale senza perdere troppa chiarezza. Inoltre, penso che probabilmente vedremo questi tipi di video nei film prima che diventino popolari sui social media perché i film hanno una durata di vita più lunga di pochi minuti e le persone saranno più aperte se li vedranno al cinema o al cinema meno pubblicizzato dalle grandi case di produzione.
Personalmente non credo che raggiungeremo mai il punto in cui non conosceremo i video deepfake da quelli tradizionali, ma cambierebbe sicuramente il modo in cui vediamo cose come interviste e discorsi. Secondo me, non c’è molto da fare per questo tipo di tecnologia. Non è illegale creare video falsi, non è illegale pubblicarli online ed è impossibile per chiunque altro dire se un video è falso o meno se la persona che lo crea vuole che il video sia reale.
Non credo che l’utente medio di Facebook comincerà a notare i video deepfake finché non sarà possibile renderizzarli in tempo reale. Sebbene siti come FakeApp realizzino video falsi utilizzando algoritmi di Machine Learning invece dei tradizionali software di editing, questi tipi di video sono estremamente difficili da creare a causa della potenza di calcolo necessaria per ogni secondo di metraggio. La potenza necessaria metterebbe a dura prova server e reti, il che significa che ci vorrebbe molto tempo per generare un video con un grado di autenticità sufficientemente alto.
A causa della natura dei video deepfake, non credo che vedremo un forte aumento del loro utilizzo subito dopo la loro creazione. Non è illegale pubblicarli o ridistribuirli online, quindi non c’è molto da fare se qualcuno vuole condividere qualcosa che ha creato. Secondo me, molto probabilmente inizierà a diventare un problema quando i siti di social media come Facebook inizieranno a incorrere in problemi con gli inserzionisti per l’hosting di questo tipo di video perché potrebbero causare indignazione tra gli spettatori che cercano di vivere la loro vita quotidiana senza essere confrontati con video falsi da amici o familiari. Le persone sono state ingannate con successo dalla tecnologia CGI tradizionale in passato, quindi sarebbe difficile dire quando qualcuno è stato ingannato da un algoritmo di apprendimento automatico o è stato ingannato a causa di un software di editing. Penso che questo diventerà un problema quando le persone inizieranno a perdere fiducia in ciò che vedono e sentono dai media, il che potrebbe causare una mancanza di fiducia nei personaggi pubblici.
Non credo che saremo davvero completamente informati sul deepfake fino a quando non verrà fatto una sorta di progresso tecnologico. In questo momento, la creazione di questi video richiede ancora molto tempo e molta potenza di calcolo, quindi puoi immaginare quanto tempo impiegano ciascuno per il rendering. Sarebbe un lavoro piuttosto laborioso per le persone che vogliono milioni di copie là fuori dal momento che dovrebbero farle una per una, ma una volta che c’è qualcosa che può generarle su larga scala, penso che vedremo onestamente quanto sia un problema questo potrebbe diventare.
Non credo che le persone se ne accorgeranno davvero finché non inizieranno a prendere in considerazione gli angoli della telecamera. Se la persona che realizza video falsi è in grado di ottenere filmati sufficienti di qualcuno che parla o si muove nel video, non importa se sta utilizzando strumenti di editing tradizionali o algoritmi di apprendimento automatico perché il prodotto finito sembrerà abbastanza reale da passare per autentico senza pensarci troppo. Sebbene la creazione di video deepfake sia attualmente estremamente difficile e dispendiosa in termini di tempo, i progressi tecnologici che consentono di fare più cose in tempo reale lo renderanno molto più semplice. In questo momento, il termine deepfake si riferisce a qualsiasi video che è stato falsificato con algoritmi di apprendimento automatico e software di editing tradizionale, ma se qualcosa fosse in grado di fare entrambe le cose contemporaneamente, avremmo un problema molto più grande nelle nostre mani.
Penso che i video falsi non diventeranno troppo popolari finché le persone non troveranno un modo semplice per farli lavorare per loro piuttosto che dover assumere qualcun altro con un budget elevato. Non importa quanto economiche o costose diventeranno queste cose, la maggior parte delle persone avrebbe comunque bisogno di una notevole quantità di tempo e denaro prima di poter creare i propri falsi senza assumere qualcun altro. Ci sono alcune persone là fuori che faranno affari da casa dove vendono video deepfake, ma per la maggior parte penso che finché non sarà qualcosa che chiunque può fare, non avrà un grande impatto sulla società.
Non credo che le persone inizieranno a utilizzare ampiamente questi video fino a quando non ci sarà un grande incentivo finanziario nel farlo. In questo momento, se dovessi creare un video con filmati falsi senza alcun target riconoscibile o specifico, sarebbe difficile ottenere alcun tipo di attenzione perché non ci sarebbe nulla da criticare in primo luogo. Anche se qualcuno volesse produrne uno per divertimento, c’è ancora il tempo e la potenza di calcolo necessari per realizzarlo, quindi non avrebbe molto senso se non avesse un obiettivo in mente. Se questi video sono in grado di diventare estremamente convincenti su larga scala, penso che le persone inizieranno a usarli per scopi negativi con l’obiettivo di fare soldi.
Non credo che i video falsi diventeranno davvero popolari fino a quando le persone non saranno in grado di produrre automaticamente clip basate su conversazioni. Per ora, la maggior parte dei falsi sono fotogrammi di base che vengono modificati o completamente riorganizzati per adattarsi a qualsiasi scopo siano stati creati. Se gli algoritmi deepfake fossero in grado di imitare più movimenti della vita reale come la sincronizzazione labiale o le scorciatoie dei gesti, penso che aprirebbe un intero nuovo mondo di possibilità in cui le persone possono creare un prodotto finale molto più convincente. Se il video è in grado di imitare i movimenti della vita reale che stanno parlando, allora posso immaginare che diventerebbero molto popolari come un modo per disinformare o calunniare qualcuno senza alcuna conseguenza perché nessuno potrebbe effettivamente verificare se sia reale o meno.
