FECCIF24 – III Feira Estadual de Ciência e Cultura do IFSP – de 21 a 26 de Outubro de 2024
A pesquisa explora o uso da Inteligência Artificial (IA) para combater deepfakes, conteúdos manipulados que distorcem a realidade. Foram testadas plataformas que identificam deepfakes, como BioID Playground, Deepware e BrandWell, e desenvolveu um protótipo de reconhecimento facial em Python. A BioID Playground mostrou maior precisão na identificação, enquanto a Deepware apresentou eficácia parcial e a BrandWell foi menos eficiente. O protótipo em Python, usando bibliotecas como OpenCV e face_recognition, identificou rostos e comparou imagens e vídeos em tempo real, embora precise de aprimoramentos.
RESUMO
INTRODUÇÃO
OBJETIVO
METODOLOGIA
Logo da sua instituição aqui
APLICAÇÕES DA INTELIGÊNCIA ARTIFICIAL NO COMBATE ÀS FAKE NEWS PRODUZIDAS POR MEIO DE DEEPFAKES
Pedro Santos de Oliveira¹, Maria Paula Xavier da Silva², Gema Galgani Rodrigues Bezerra3 (orientador)
1Instituto Federal de São Paulo, Guarulhos, Brasil - pedro.oliveira2@aluno.ifsp.edu.br
2Instituto Federal de São Paulo, Guarulhos, Brasil - paula.xavier@aluno.ifsp.edu.br
3Instituto Federal de São Paulo, Guarulhos, Brasil - gemagalgani@ifsp.edu.br
A pesquisa investiga o uso de Inteligência Artificial (IA) na identificação e combate de fake news produzidas por deepfakes, que são conteúdos audiovisuais manipulados com o intuito de distorcer a realidade. Fake news, definidas como “documentos deliberadamente falsos com o objetivo de manipular os consumidores” (Meneses, 2018, p. 47), têm se proliferado com o avanço das tecnologias digitais, particularmente desde a década de 1990 (Soll, 2016). Com a popularização das redes sociais, a disseminação de fake news tornou-se mais ampla e impactante. Dados do Digital News Report (Levy et al., 2017) e do dfndr lab (Pecsen, 2020) indicam uma crescente dificuldade em distinguir informações verdadeiras de falsas. Os deepfakes, surgidos em 2017 (Hall, 2018), utilizam IA para criar conteúdos audiovisuais falsificados que desafiam a detecção tradicional (Molina & Berenguel, 2022). Este estudo busca responder como a IA pode identificar eficazmente deepfakes e melhorar a confiança nas informações compartilhadas nas redes sociais. A hipótese é que algoritmos de IA podem distinguir deepfakes com maior precisão do que métodos convencionais, e o objetivo é desenvolver uma ferramenta baseada em IA para essa finalidade, propondo estratégias para mitigar o impacto das fake news.
O objetivo geral da pesquisa consiste em desenvolver uma ferramenta capaz de identificar, por meio de inteligência artificial, fake news produzidas por meio de deepfakes, com o propósito de reverter o impacto nocivo da IA e combater notícias manipuladoras geradas a partir de tecnologias que utilizam inteligência artificial para manipular conteúdos audiovisuais.
Essa pesquisa partiu de testes feitos em algumas plataformas disponíveis gratuitamente na internet, cuja finalidade é identificar deepfakes. Os testes basearam-se na análise da eficiência desses sites em detectar corretamente conteúdos produzidos e modificados por inteligência artificial. Para isso, foram utilizados cinco vídeos e cinco imagens, criados por meio de deepfakes, que tiveram de passar pela avaliação desses sites. Com a análise dos resultados dos testes, será possível averiguar se as plataformas já existentes na internet, e que são semelhantes àquela objetivada pela pesquisa, são realmente eficazes na identificação de conteúdos fraudados com o uso de inteligência artificial, mais comumente conhecidos como deepfakes.
Além disso, um protótipo capaz de identificar e distinguir traços do rosto humano, começou a ser desenvolvido utilizando a linguagem de programação Python. O protótipo consegue, através de uma imagem real da pessoa, informar se é a mesma pessoa que se apresenta na câmera do computador. Apesar de ainda não ser possível identificar deepfakes, o algoritmo em Python já consegue analisar e fazer a diferenciação entre um rosto humano e outro, o que se mostra como um importante passo inicial para uma futura ferramenta que consiga, eficazmente, identificar deepfakes, combatendo, assim, notícias falsas criadas com o uso dessas tecnologias.
.
A pesquisa foi dividida em duas etapas. Na primeira, testaram-se três plataformas de identificação de deepfakes: BioID Playground, Deepware e BrandWell. Foram usados cinco vídeos e cinco imagens deepfake. Os vídeos incluíram: o Vídeo 1, com o ator Morgan Freeman (Diep Niep, 2021); o Vídeo 2, com o empresário Elon Musk (Civic Sentinel, 2022); o Vídeo 3, com o comediante Jerry Seinfeld em “Pulp Fiction” (Desifakes, 2022); o Vídeo 4, com o ator Tom Cruise (Vecanoi, 2021); e o Vídeo 5, com Arnold Schwarzenegger em “O Mágico de Oz” (Brianmonarch, 2023). As imagens foram geradas pelo site This Person Does Not Exist.
A BioID Playground avaliou todos os vídeos e imagens, retornando uma mensagem e uma pontuação de 0 a 1, convertida em porcentagem. A Deepware, usada para vídeos, forneceu mensagens como “Deepfake detectado” ou “Suspeito”, com probabilidade correspondente. A BrandWell focou em imagens, indicando a probabilidade de manipulação.
A BioID Playground foi a mais eficaz, identificando corretamente todos os vídeos, exceto os Vídeos 3 e 5. O Vídeo 1 foi detectado como falso com 99,9% de certeza; o Vídeo 2 com 97,4%; o Vídeo 3 como real com 44,6%; o Vídeo 4 como falso com 86,2%; e o Vídeo 5 como real com 32%. A Deepware acertou no Vídeo 1, no Vídeo 2 e no Vídeo 4, mas classificou o Vídeo 3 como real e o Vídeo 5 como “Suspeito” com 54,5%. A BrandWell falhou em identificar quatro das cinco imagens, com probabilidades variando de 6% a 57%.
Na segunda etapa, desenvolveu-se um protótipo de reconhecimento facial em Python, utilizando bibliotecas como OpenCV, face_recognition e Dlib, capaz de identificar e comparar características faciais em imagens e vídeos em tempo real.
RESULTADOS E DISCUSSÕES
REFERÊNCIAS
CONCLUSÃO
O protótipo de reconhecimento facial em Python, utilizando bibliotecas como OpenCV e face_recognition, revelou eficiência e custo acessível. Ele poderá, futuramente, identificar deepfakes, por meio da possibilidade de upload de fotos e vídeos e é aplicável em segurança e autenticação
Todas as referências usadas no poster podem ser acessadas por meio do link: https://bit.ly/refs-poster-feccif