Deepfake é uma nova tecnologia que pode ser usada para manipular vídeo e áudio, com a intenção de produzir conteúdo de mídia falsa. Tem sido muito noticiado ultimamente em termos de seu uso para fins políticos, mas tem muitos outros usos potenciais na indústria e no entretenimento.
O que é deepfake e como funciona
Um deepfake é criado quando alguém usa um programa de IA para gerar uma imagem, vídeo ou clipe de áudio de algo que nunca aconteceu na realidade. Geralmente, eles são bastante fáceis de identificar porque o conteúdo falso geralmente apresenta erros ou contradições quando cruzado com a mídia autêntica
Como usar deepfakes para o bem
Até agora, as pessoas usaram essa tecnologia para vídeos de sátira
Os perigos de usar deepfakes para fins maliciosos
Essa tecnologia pode ser usada para criar informações erradas que as pessoas acreditarão sem questionar, o que pode levar a consequências desastrosas no futuro. Por exemplo, imagine se fossem divulgadas imagens de um chefe de estado dizendo que quer lançar um ataque nuclear
As implicações do futuro das fake news na política, no jornalismo e na sociedade
No futuro, será mais fácil do que nunca gerar mídia falsa em que as pessoas acreditarão sem questionar, o que poderá levar a consequências desastrosas no futuro. Por exemplo, imagine se fossem divulgadas imagens de um chefe de estado dizendo que quer lançar um ataque nuclear
Soluções para combater esses problemas no futuro
Será cada vez mais importante para pessoas de todas as origens possíveis – incluindo jornalistas – verificar o conteúdo por meio de várias fontes antes de relatar qualquer coisa como verdadeira ou até mesmo compartilhar algo nas mídias sociais. Também pode ser benéfico para empresas de tecnologia como YouTube ou Facebook fazer mais do que apenas confiar em usuários sinalizando conteúdo como algo problemático
Considerações finais sobre a importância do impacto potencial desta tecnologia na sociedade
No futuro, será mais fácil do que nunca gerar mídia falsa em que as pessoas acreditarão sem questionar, o que poderá levar a consequências desastrosas no futuro. Por exemplo, imagine se fossem divulgadas imagens de um chefe de Estado dizendo que deseja lançar um ataque nuclear.
Deepfakes, como evitar ser enganado?
“Deepfakes” é um termo que se refere a vídeos editados ou imagens de pessoas que parecem estar fazendo algo que realmente não fizeram. Esses vídeos e imagens profundamente falsos podem ser criados usando software de inteligência artificial (IA), como o FakeApp. Vídeos e imagens deepfake podem ser usados para criar notícias falsas profundas ou para vários propósitos maliciosos. Para sua segurança, as pessoas devem ter software atualizado, usar senhas exclusivas em todos os sites que visitam, nunca armazenar senhas em seus navegadores, desativar o Flash se não for necessário, evitar instalar extensões de navegador oferecidas por meio de pop-ups na web sites em que você não confia, evite baixar software pirata se possível e confira nossas dicas sobre como evitar vídeos e imagens deepfake abaixo.
Existem alguns fatores que podem ajudá-lo a evitar ser enganado por um vídeo ou imagem profundamente falso. Primeiro, você deve manter seu software atualizado, pois isso geralmente inclui atualizações de segurança. Se o seu software não estiver atualizado, pode ser possível que alguém explore vulnerabilidades de segurança em versões antigas do software para obter acesso ao seu sistema sem o seu conhecimento. Em segundo lugar, se você usar senhas exclusivas (e alterá-las regularmente), mesmo que um site seja invadido, isso não afetará nenhum outro site que você visite no futuro com a mesma senha. Um terceiro fator é garantir que o Flash seja instalado quando você precisar.
Como identificar um vídeo deepfake
Vídeos deepfake são vídeos que foram manipulados usando IA para fazer parecer que alguém está dizendo ou fazendo algo que não fez. Os vídeos deepfake podem ser usados por vários motivos, incluindo propaganda, entretenimento e desinformação.
Para identificar um vídeo deepfake, há algumas coisas que você pode procurar. Uma das maneiras mais fáceis de identificar um deepfake é se a pessoa no vídeo tiver uma aparência diferente da aparência normal. Além disso, você pode procurar movimentos incomuns nas características faciais da pessoa ou movimentos não naturais dos lábios. Você também pode ouvir distorções ou inconsistências de áudio.
Se você não tiver certeza se um vídeo é real ou falso, pode ser útil perguntar a si mesmo qual é o propósito do vídeo. Quem se beneficiaria de falsificar este vídeo? Se não parecer haver uma motivação clara para falsificar o vídeo, é mais provável que o vídeo seja preciso.
Outra coisa que você pode fazer se estiver tentando descobrir se uma pessoa disse algo de uma certa maneira (por exemplo, enganosamente) seria ouvir e comparar sua pronúncia com a de outros discursos que ela fez. Por exemplo, se alguém já falou publicamente sobre um assunto antes, mas nunca pronunciou uma palavra da mesma forma que fez neste novo discurso – isso sinaliza decepção.
Os primeiros deepfakes foram criados usando o Adobe After Effects, que exige que os usuários tenham conhecimento de edição de vídeo. No entanto, mais recentemente, a IA foi usada para fazer deepfakes sem nenhuma entrada do usuário. Isso diminui a quantidade de trabalho de pós-produção necessária para criar um vídeo, mas faz pouco para impedir que alguém produza um vídeo falso completamente sem ser detectado.
Uma maneira de se proteger de ser afetado por vídeos deepfake é ser cético ao assistir ou ler a mídia de notícias. Se algo parecer errado, não acredite até confirmar que é verdade. Por exemplo, verifique várias fontes antes de acreditar em algo que você ouve na televisão, porque os vídeos deepfake estão se tornando uma maneira cada vez mais comum de espalhar desinformação online. E lembre-se: só porque algo parece verdadeiro não significa que seja.
Alguns exemplos de vídeos deepfake anteriores incluem um em que o ex-presidente Obama falou em tom racista e outro em que a atriz Gal Gadot parecia estar dizendo que pertencia ao “Estado Islâmico” (ISIS). Esses vídeos mostram como pode ser fácil para qualquer pessoa com acesso à tecnologia e conhecimento certos criar deepfakes que parecem reais. A facilidade com que esses vídeos podem ser criados também torna difícil para muitas pessoas distinguir o que é real e o que não é.
Compreender como esses vídeos são feitos e conhecer algumas maneiras de identificá-los é essencial se você quiser se proteger de ser vítima ou promover inadvertidamente informações falsas online.
Como se manter informado em uma sociedade pós-verdade
Se você quiser se manter informado, existem alguns passos que você pode tomar. O primeiro passo é evitar a leitura de informações que não foram corroboradas por várias fontes confiáveis. Você também deve considerar qual pode ser a motivação para compartilhar esse tipo de informação. Se a fonte parecer tendenciosa ou se não houver uma explicação clara do motivo pelo qual eles estão compartilhando algo, você deve reconsiderar o quanto de confiança você tem nas informações apresentadas. Além disso, lembre-se de que só porque algo parece verdadeiro não significa que seja. Pode ser imprudente basear sua própria opinião em informações falsas, então tente não tirar conclusões precipitadas até que você tenha tempo de verificar o que vê online. Se você não tiver certeza se um vídeo é real ou falso, pergunte a si mesmo qual é o propósito do vídeo. Quem se beneficiaria de falsificar este vídeo? Você também pode procurar movimentos incomuns nas características faciais da pessoa ou movimentos labiais não naturais. E, por último, se você estiver tentando descobrir se uma pessoa disse algo de uma certa maneira (por exemplo, enganosamente), seria útil ouvir e comparar sua pronúncia com a de outros discursos que ela fez. Por exemplo, se alguém já falou publicamente sobre um assunto antes, mas nunca pronunciou uma palavra da mesma forma que fez neste novo discurso – isso sinaliza decepção.
A cara da revolução do deepfake
A revolução do deepfake é um fenômeno contínuo em que as pessoas podem criar vídeos de pessoas dizendo ou fazendo coisas que nunca fizeram. A tecnologia por trás dos deepfakes é chamada de “deep learning”, que é um tipo de aprendizado de máquina que permite que os computadores aprendam como fazer as coisas por exemplo.
Essa tecnologia já foi usada para criar vídeos falsos de celebridades, e só vai piorar a partir daqui. Precisamos estar cientes dessa tecnologia e estar preparados para as consequências.
As consequências desse tipo de tecnologia são imensas. Por um lado, é muito fácil enganar as pessoas a pensar que esses vídeos são reais. Consegui encontrar um subreddit onde as pessoas criam vídeos falsos com relativa facilidade e a qualidade é insana. Um vídeo criado por alguém neste subreddit obteve quase 11.000 votos positivos. Isso é perturbador porque significa que existe uma comunidade inteira disposta a compartilhar vídeos falsos como se fossem reais. Além disso, não existem leis contra o deepfake, então será interessante ver como esse tipo de coisa progride nos próximos anos.
Outra consequência é que podemos perder nossa confiança na mídia digital como um todo e parar de usar a mídia digital para coisas como educação e documentação. Um exemplo é o vídeo de Barack Obama falando sobre “fake news” que na verdade foi criada por outra pessoa. Isso mostra como é fácil fazer as pessoas parecerem ruins, mas essa tecnologia será ainda mais perigosa quando usada com discursos políticos que tenham implicações reais na vida das pessoas.
Encontrei um site que pode criar vídeos falsos usando apenas fotos do Facebook. Basta fazer upload de 3 a 20 fotos do seu rosto e o software as combinará em um vídeo com aparência realista, onde você está dizendo o que quiser. As pessoas já estão começando a usar esses vídeos para se vingar de seus ex ou se vingar de pessoas que os fizeram mal. Acho que isso é perigoso porque significa que podemos perder a confiança uns nos outros como humanos se o deepfake se tornar mais popular.
Essa tecnologia é viciante e tem o potencial de nos deixar obcecados por coisas que não existem. Muita gente já perdeu tempo tentando desmascarar vídeos feitos por essa tecnologia, o que significa que estão sendo enganados o tempo todo. Um exemplo é um vídeo onde Barack Obama diz “Nós matamos Osama Bin Laden”, que foi criado por alguém. Isso mostra como é fácil enganar as pessoas usando esse tipo de tecnologia, então acho que todos deveriam estar cientes de sua existência antes de tomar qualquer tipo de decisão com base no que você vê online. Precisamos de leis contra o deepfake porque acredito que esses vídeos serão destrutivos para as relações entre as pessoas na sociedade se forem permitidos progredir sem limitações. Isso dividirá nossa sociedade em dois grupos, pois aqueles que sabem serão cautelosos com tudo o que veem online e aqueles que não o fazem. Isso terá um efeito negativo em nossa sociedade como um todo, porque as pessoas não poderão confiar no que é real e no que não é, o que significa que teremos menos probabilidade de nos comunicarmos uns com os outros ou compartilhar coisas importantes como documentação e educação por meio de mídia digital.
Deepfakes, por que seus dados não valem nada?
Existem três tipos de dados que não valem nada: Deepfakes, Your Data, Your Future.
Deepfakes são vídeos criados com inteligência artificial. Eles são normalmente usados para criar filmes transformando o rosto de uma pessoa no corpo de outra pessoa, ou para outros propósitos enganosos. Esse tipo de tecnologia pode ser usado para criar conteúdo de vídeo falso que pode desestabilizar nossa sociedade. Semelhante ao Deepfakes, seus dados também não valem nada porque podem ser manipulados para servir a qualquer propósito. O último tipo de dado que não vale nada é o seu futuro porque não pode ser visto. As pessoas estão sempre tentando prever o futuro, mas é muito difícil.
Deepfakes – O que você precisa saber sobre esse pesadelo digital
Deepfakes são um tipo de manipulação digital que usa inteligência artificial para criar vídeos de pessoas que parecem estar dizendo ou fazendo coisas que nunca disseram ou fizeram. Os vídeos deepfake costumam ser usados para criar vídeos falsos, mas também podem ser usados para criar notícias falsas ou manipular a opinião pública.
Os vídeos deepfake são um pesadelo digital porque podem ser usados para espalhar mentiras e desinformação. Eles também podem ser usados para chantagear pessoas ou prejudicar sua reputação. Vídeos deepfake são muito difíceis de detectar, por isso é importante estar ciente deles e ser cético em relação a qualquer vídeo que pareça bom demais para ser verdade.
Os vídeos deepfake são feitos com uma combinação de aprendizado de máquina e inteligência artificial. O primeiro passo é criar um conjunto de dados que inclua o vídeo da pessoa que você quer que diga ou faça algo que ela nunca fez. Você pode usar ferramentas disponíveis gratuitamente para gerar este conjunto de treinamento, que incluirá centenas ou milhares de vídeos curtos de seu alvo. Os algoritmos de aprendizado de máquina são usados para fazer esses vídeos individuais e “aprender” como o rosto deve ficar quando estiver fazendo expressões diferentes ou dizendo palavras diferentes. Depois que dados suficientes forem coletados, os algoritmos de aprendizado de máquina podem gerar novos vídeos falsos que parecem muito realistas e naturais.
O termo Deepfakes foi cunhado por um usuário anônimo do Reddit.
O que é áudio deepfake?
O áudio deepfake é uma tecnologia emergente que permite a criação de uma gravação falsa. Funciona de tal forma que cria um som ou vídeo com a voz de alguém e o coloca no corpo de outra pessoa. Isso normalmente é usado por pessoas para constranger os outros, mas os deepfakes também podem ser usados para criar vídeos e gravações falsos para desacreditar ou ameaçar políticos e celebridades.
O áudio deepfake é uma tecnologia relativamente nova que surgiu nos últimos dois anos, mas está se tornando mais popular devido à sua facilidade de uso. Existem vários sites online onde as pessoas fazem upload de sons e outros usuários podem colocá-los na boca de outra pessoa para criar vídeos. Esse processo é possibilitado pela inteligência artificial (IA) que pode ser usada para vários fins, incluindo edição de vídeos ou criação de vídeos falsos. Ele funciona pegando dados de algum tipo de fonte de áudio e usando isso para processamento adicional para concluir o trabalho de vídeo. As pessoas usaram deepfakes com discursos de políticos para desacreditá-los ou com áudio explícito de celebridades para humilhá-los.
Quais são as possíveis implicações dos deepfakes?
Deepfakes são um tipo de vídeo gerado por IA que apareceu recentemente na internet. Esses vídeos são criados por algoritmos e fazem as pessoas dizerem coisas que nunca disseram ou parecem estar fazendo algo que nunca fizeram. Dessa forma, os deepfakes podem ser usados como uma forma de desinformação para mudar a percepção das pessoas sobre a realidade. É muito possível que os deepfakes continuem a proliferar e se tornem mais persuasivos com o passar do tempo, porque os algoritmos podem aprender com os vídeos deepfake anteriores e melhorar com o tempo. Isso poderia levar a um ponto em que não haveria mais credibilidade em qualquer vídeo, tornando impossível acreditar em qualquer coisa que vemos ou ouvimos.
Uma das implicações mais importantes a se preocupar é a questão da autenticidade. A divulgação de notícias falsas tornou-se uma prática cada vez mais fácil e comum, tanto que é difícil saber se algum vídeo ou fotografia é real porque nunca podemos ter certeza absoluta. A Internet contribui significativamente para este problema. Ao pesquisar qualquer coisa no Google, você encontrará vários sites que apresentam informações conflitantes, tornando ainda mais confuso ao tentar discernir o que é verdade e o que não é. Se os deepfakes se tornarem amplamente vistos como fontes confiáveis de informação, o efeito imediato será uma perda de confiança em todas as outras formas de conteúdo devido à sua incerteza. Também pode nos fazer questionar tudo o que ouvimos ou vemos – até mesmo coisas que foram gravadas com nossos próprios olhos.
Em particular, os jornalistas podem ser impactados pelo aumento da presença de deepfakes. Essa tecnologia pode impossibilitar que eles saibam se as entrevistas que realizam são reais ou não, o que coloca sua credibilidade em risco. Se as pessoas não acreditarem mais no que relatam é preciso, há uma boa chance de que sua audiência diminua e as pessoas se voltem para fontes que ofereçam conteúdo que pareça mais legítimo, independentemente de sua validade. Enquanto o público acreditar que está recebendo a verdade de outro lugar, sua confiança nos principais meios de comunicação continuará a diminuir.
Além disso, as implicações da desinformação generalizada podem causar mudanças nas relações internacionais se alguns países não resolverem esse problema com rapidez suficiente. Por exemplo, se um vídeo deepfake fosse postado, fazendo parecer que os líderes de dois países estavam se insultando, suas respectivas populações poderiam se tornar hostis umas às outras e desenvolver uma falsa sensação de hostilidade. Se a filmagem original não for divulgada e refutada com rapidez suficiente, as pessoas provavelmente continuarão a perceber a realidade, uma vez que foi distorcida para elas pelo vídeo falso, o que torna as trocas violentas entre os cidadãos muito mais prováveis, porque eles serão incentivados a agir com base em sua raiva em relação a um indivíduo que na verdade não existe.
Também podemos ver um grande declínio em Hollywood à medida que os espectadores param de ir aos cinemas porque preferem assistir a filmes em casa com deepfakes em vez de ter efeitos visuais realistas. A indústria pode não conseguir acompanhar a tecnologia se ela evoluir mais rápido do que o tempo que leva para a produção de filmes, o que faria com que as receitas caíssem significativamente. Podemos até começar a ver filmes totalmente gerados por computador porque os atores não são mais necessários.
Embora os deepfakes possam ter efeitos positivos na arte, há muito mais potencial para consequências negativas à medida que a IA continua avançando e se espalhando por vários setores. É essencial que as pessoas se conscientizem do problema para que possam determinar como resolvê-lo antes que a desinformação se torne impossível de parar ou se torne muito persuasiva para seu próprio bem. Por esse motivo, os desenvolvedores devem testar continuamente os algoritmos e encontrar maneiras de limitar seus recursos para evitar que as informações sejam distorcidas. Isso pode envolver limitar a aparência dos vídeos ou exigir certificados de autenticação para compartilhar determinado conteúdo. Por exemplo, para que vídeos de deepfakes sejam postados no Facebook, eles precisarão ser marcados como verificados após serem analisados pela empresa .
Pode até chegar um momento em que paremos de considerar a realidade virtual e a realidade aumentada como tecnologias avançadas por causa de quão avançada a IA se tornou. Todo o conteúdo digital pode se misturar, então é difícil dizer o que é autêntico e o que não é, o que destruiria nossa confiança em várias formas de mídia. A única maneira de evitar que isso aconteça é se todos trabalharmos juntos como sociedade para acabar com essas práticas antes que elas tenham alguma chance de se tornarem bem-sucedidas. Não temos ideia de quão longe a tecnologia deepfake irá se tornar boa ou ruim para nós, mas não podemos deixar que ela comprometa nossa capacidade de perceber a realidade.
Quando esperamos ver o uso em massa de deepfakes?
Deepfakes são vídeos gerados por inteligência artificial ou algoritmos de aprendizado de máquina. Os usuários do Deepfake podem pegar alguns segundos de vídeo e transformá-lo em algo que parece minutos. Deepfakes permite que uma pessoa comum crie trocas de rosto convincentes, imitações de voz ou qualquer outro tipo de manipulação que você possa ver em filmes.
Provavelmente veremos o uso em massa de deepfakes em algum momento, porque a IA está melhorando no reconhecimento de rostos, vozes e outras coisas, o que possibilita que o uso desses tipos de técnicas se popularize.
O público começará a ver o uso avançado de vídeos deepfake quando estiverem prontos para serem renderizados em tempo real. Isso significa, quando leva menos de alguns minutos para um algoritmo criar um vídeo realista. Quanto mais tempo demorar, menos provável que as pessoas estejam dispostas a esperar que ele seja gerado. A maioria das pessoas não se importará ou perceberá se não for realmente renderização em tempo real, porque a maioria parou de prestar atenção quando sabe que algo é falso – desde que um algoritmo possa enganá-los com sucesso com os olhos sem muito esforço. Os avanços tecnológicos em reconhecimento facial, algoritmos de aprendizado de máquina e renderização digital podem fazer com que o consumidor médio comece a notar vídeos deepfake, mas provavelmente levará anos até que isso aconteça.
Começaremos a ver esses tipos de vídeos em três a cinco anos porque não houve muito avanço tecnológico recentemente e esse é um conceito relativamente novo. Já podemos criar vídeos falsos tradicionais que parecem reais usando softwares de edição como Adobe Premiere Pro e After Effects. A única diferença entre esses vídeos e deepfake é que não podemos controlar o que as pessoas dizem ou como movem a boca, então precisamos de software como o FakeApp, por exemplo, que usa algoritmos de aprendizado de máquina para realizar trocas de rosto e coisas semelhantes. Levaria muito tempo e dinheiro para criar conteúdo suficiente para o público aceitar vídeos de aprendizado de máquina como reais. Também precisamos de mais avanços tecnológicos, como impressoras 3D baratas e de alta resolução, que podem criar cabeças em tamanho real sem perder muita clareza. Além disso, acho que provavelmente veremos esses tipos de vídeos em filmes antes de se tornarem populares nas mídias sociais porque os filmes têm uma vida útil mais longa do que apenas alguns minutos e as pessoas estarão mais abertas a eles se os virem nos cinemas ou em menos anunciado pelas grandes produtoras.
Pessoalmente, acho que nunca chegaremos ao ponto em que não distinguiremos os vídeos deepfake dos tradicionais, mas definitivamente mudaria a forma como vemos coisas como entrevistas e discursos. Na minha opinião, não há muito que se possa fazer sobre esse tipo de tecnologia. Não é ilegal criar vídeos falsos, não é ilegal publicá-los on-line e é impossível para qualquer outra pessoa dizer se um vídeo é falso ou não se a pessoa que o criou quiser que o vídeo seja real.
Eu não acho que o usuário médio do Facebook começará a perceber vídeos deepfake até que eles possam ser renderizados em tempo real. Embora sites como o FakeApp façam vídeos falsos usando algoritmos de aprendizado de máquina em vez de software de edição tradicional, esses tipos de vídeos são extremamente difíceis de criar devido à quantidade de poder de computação necessária para cada segundo de filmagem. A energia necessária sobrecarregaria os servidores e as redes, o que significa que levaria muito tempo para gerar um vídeo com um grau de autenticidade suficientemente alto.
Devido à natureza dos vídeos deepfake, não acho que veremos um aumento acentuado em seu uso imediatamente após sua criação. Não é ilegal publicá-los ou redistribuí-los online, então não há muito o que fazer se alguém quiser compartilhar algo que criou. Na minha opinião, provavelmente começará a se tornar um problema quando sites de mídia social como o Facebook começarem a ter problemas com anunciantes por hospedar esses tipos de vídeos, porque podem causar indignação entre os espectadores que tentam seguir suas vidas diárias sem serem confrontados por vídeos falsos de amigos ou familiares. As pessoas foram enganadas com sucesso pela tecnologia CGI tradicional no passado, então seria difícil dizer quando alguém está sendo enganado por um algoritmo de aprendizado de máquina ou foi enganado por causa de um software de edição. Acho que isso se tornará um problema quando as pessoas começarem a perder a fé no que veem e ouvem dos meios de comunicação, o que pode causar falta de confiança nas figuras públicas.
Eu não acho que vamos realmente notificar o deepfake até que algum tipo de avanço tecnológico seja feito. No momento, criar esses vídeos ainda consome muito tempo e consome muita energia de computação, então você pode imaginar quanto tempo cada um leva para renderizar. Seria um trabalho muito trabalhoso para pessoas que querem milhões de cópias por aí, já que teriam que fazer uma por uma, mas quando houver algo que possa gerá-las em escala, acho que veremos honestamente o quanto é um problema isso pode se tornar.
Eu não acho que as pessoas vão realmente notar até que comecem a levar em consideração os ângulos da câmera. Se a pessoa que faz vídeos falsos conseguir obter imagens suficientes de alguém falando ou se movendo no vídeo, não importará se estiver usando ferramentas de edição tradicionais ou algoritmos de aprendizado de máquina, porque o produto final parecerá real o suficiente para passar como autêntico sem pensar muito sobre isso. Embora os vídeos deepfake sejam atualmente extremamente difíceis e demorados para criar, os avanços na tecnologia que permitem que mais coisas sejam feitas em tempo real o tornarão muito mais fácil. No momento, o termo deepfake se refere a qualquer vídeo que tenha sido falsificado com algoritmos de aprendizado de máquina e software de edição tradicional, mas se algo fosse capaz de fazer as duas coisas ao mesmo tempo, teríamos um problema muito maior em nossas mãos.
Acho que vídeos falsos não se tornarão muito populares até que as pessoas encontrem uma maneira fácil de fazê-los trabalhar para eles, em vez de contratar alguém com um grande orçamento. Não importa o quão barato ou caro essas coisas vão ficar, a maioria das pessoas ainda precisa de uma quantidade substancial de tempo e dinheiro antes de poder criar suas próprias falsificações sem contratar outra pessoa. Existem algumas pessoas por aí que farão seus negócios domésticos onde vendem vídeos deepfake, mas na maioria das vezes acho que até que seja algo que qualquer um possa fazer, não terá muito impacto na sociedade.
Não acho que as pessoas começarão a usar amplamente esses vídeos até que haja um grande incentivo financeiro para isso. No momento, se você criasse um vídeo com imagens falsas sem nenhum alvo reconhecível ou específico, seria difícil obter qualquer tipo de atenção porque não haveria nada que valesse a pena criticar em primeiro lugar. Mesmo que alguém quisesse produzir um por diversão, ainda há tempo e poder de computação necessários para fazê-lo, então não faria muito sentido se eles não tivessem um objetivo em mente. Se esses vídeos puderem se tornar extremamente convincentes em escala, acho que as pessoas começarão a usá-los para fins negativos com o objetivo de ganhar dinheiro.
Eu não acho que vídeos falsos realmente se tornarão populares até que as pessoas possam produzir clipes baseados em conversas automaticamente. Por enquanto, a maioria das falsificações são fotos básicas que são modificadas ou completamente reorganizadas para se adequarem a qualquer finalidade para a qual foram criadas. Se os algoritmos de deepfake fossem capazes de imitar mais movimentos da vida real, como sincronização labial ou atalhos de gestos, acho que abriria um novo mundo de possibilidades, onde as pessoas podem criar um produto final muito mais convincente. Se o vídeo for capaz de imitar movimentos da vida real que estão falando, posso imaginar que eles se tornariam muito populares como forma de desinformar ou caluniar alguém sem nenhuma consequência, porque ninguém poderia realmente verificar se é ou não real.
