Com o crescimento de atividades ligadas ao uso de Inteligência Artificial (IA), novos recursos surgem todos os dias, para o bem e para o mal. Entre as ameaças estão os vídeos deepfake de desinformação originadas de IA generativa, que é capaz de produzir vídeos extremamente realistas, a exemplo do Sora e Kling AI.
Apesar das constantes melhorias, os vídeos deepfake criados pela IA generativa não são facilmente identificáveis com precisão por muitas ferramentas. Assim, a melhor maneira de combater a IA é usando IA.
De acordo com o site Gizmodo, pesquisadores da Universidade de Drexel, na Filadélfia (EUA), criaram um algoritmo conhecido como “MISLnet”, que prometem identificar vídeos deepfake com uma precisão de 98%.
Em um estudo recém publicado, os pesquisadores destacam a necessidade de um novo método para identificar vídeos gerados por IA porque as ferramentas atuais têm dificuldades para fazê-lo.
Detectando deepfakes com IA
O estudo afirma que este algoritmo se concentra em um método de detecção de conteúdo falso criado pela inteligência artificial, explorando as características distintas dos vídeos criados pela inteligência artificial generativa.
Para fazer isso, eles usaram algoritmos de aprendizado de máquina, principalmente redes neurais convolucionais (CNN), para encontrar padrões sutis – também conhecidos como “impressões digitais” – em vídeos deepfake de inteligência artificial generativa.
Os criadores afirmam que o MISLnet é um tipo de CNN e é muito adaptável.
Inicialmente, realizaram o treinamento de machine learning para ajudar o algoritmo a distinguir entre valores normais e anormais em um nível subpixel das imagens e vídeos.
Após o treino, ele conseguiu detectar vídeos deepfake de IA generativa desconhecida com quase exatidão, demandando pouco tempo para adaptação dos dados.
O estudo afirma que esse potencial de adaptação é “crucial” para o ambiente de IA generativa em constante evolução, onde novos geradores de vídeo são lançados diariamente.
De acordo com os desenvolvedores, o algoritmo pode permanecer “à frente da curva” em aprendizado e adaptação a novas tecnologias, detectando rapidamente vídeos deepfake devido a essa rápida adaptação.
A Universidade de Drexel afirma que os resultados dessa pesquisa têm um “significado social expressivo”. Como as tecnologias de vídeo de IA generativa estão se desenvolvendo, a desinformação de deepfake está se tornando mais prevalente. Principalmente em momentos importantes, como prévias e eleições.
“Embora os mecanismos de detecção não devam ser a única forma de combate à desinformação. Ter a capacidade tecnológica para verificar a autenticidade da mídia digital é, certamente, um passo importante”, afirma a universidade em nota.
Com o aumento gradativo do uso de IA, a existe uma real necessidade de fiscalização e, por que não dizer, repreensão das criações com o intuito de prejudicar ou enganar usuários, Vamos torcer para que novas ações como o MISLnet sejam uma constante em diversas instituições de ensino e pesquisa.
Leia mais
- Marvel’s Spider-man 2 usou inteligência artificial para sincronizar as legendas; entenda
- The Witcher: voz de Geralt diz que IA nos games é “inevitável”, mas “perigosa”
- Microsoft vai integrar inteligência artificial Copilot em jogos de Xbox e PC
Com informações dos sites Drexel.edu e Gizmodo
A Game Arena tem muito mais conteúdos como este sobre esportes eletrônicos, além de games, filmes, séries e mais. Para ficar ligado sempre que algo novo sair, nos siga em nossas redes sociais: Twitter, YouTube, Instagram, Tik Tok, Facebook e Kwai.
