Do ponto de vista técnico, o Infinity AI basicamente não faz nada notável. Vídeos deepfake já existem há vários anos e a clonagem realista de vozes já é possível com IA há algum tempo. O que é incrível no aplicativo da web é o quão baixo tudo é oferecido aqui.
Você estabelece um diálogo. Então decida qual IA infinita As celebridades armazenadas deverão falar a respectiva fala. E você já tem um vídeo finalizado em que, por exemplo, Jeff Bezos conversa com Elon Musk.
Na verdade, é ainda mais fácil, porque em vez de escrever um diálogo e selecionar você mesmo os alto-falantes, com o Infinity AI você pode deixar isso para uma IA.
Vídeos deepfake não são perfeitos – mas estão perto
À primeira vista, os videoclipes criados com Infinity AI parecem bastante convincentes. No entanto, após uma inspeção mais detalhada, os erros habituais tornam-se aparentes em algumas das molduras criadas: bocas brevemente distorcidas ou outras alterações não naturais no rosto.
Recomendações editoriais
Porém, tais erros não podem ser identificados nas vozes clonadas de celebridades. Seja Elon Musk, Lewis Hamilton ou Snoop Dogg: todos parecem completamente naturais. Especialmente porque com o Infinity AI você pode fazer com que a IA recalcule cada linha, se necessário, se você não gostar da ênfase.
Potencial para abuso e questões legais
Embora os usuários do Infinity AI usem a ferramenta principalmente para clipes divertidos, semelhantes a memes, o potencial de uso indevido é óbvio. No passado, por exemplo, houve casos em que vídeos deepfake de Elon Musk foram usados para fraudes criptográficas. Também conseguimos ter vídeos semelhantes gerados pela Infinity AI sem problemas.
Existem também questões éticas e legais. É extremamente improvável que Tim Cook ou Joe Biden (que só é visto aqui como um homem comparativamente jovem) tivessem aprovado o uso das suas próprias imagens e vozes. Sem mencionar o falecido Steve Jobs.
A equipe Infinity AI tem grandes planos
No entanto, a equipe de três pessoas por trás do Infinity AI não parece se importar. Aliás, a startup também é apoiada pela conhecida incubadora norte-americana Combinador Y apoia.
No longo prazo, entretanto, não devem ser apenas vídeos curtos e profundos. A empresa afirma que quer criar uma plataforma que transforme roteiros em filmes finalizados.
“Acreditamos que uma equipe de três roteiristas – sem atores, diretores ou outros colaboradores – ganhará um Oscar nos próximos sete anos”, diz a seção de perguntas e respostas da plataforma. Mesmo que a equipe esteja certa, é mais provável que tal filme seja feito com um modelo de IA como o Sora da OpenAI – e não com a tecnologia deepfake mostrada aqui.