Em 2024, os especialistas alertaram que a internet está a chegar rapidamente a um ponto de viragem: até 50% das imagens que vemos online podem agora ser falsas. Ferramentas de IA como o Midjourney, o DALL·E 3 e o Stable Diffusion geram fotografias de alta qualidade quase idênticas às reais, e estão a espalhar-se em escala em plataformas como o Twitter, o Instagram e o TikTok.
Hany Farid, professor na UC Berkeley e um dos maiores especialistas mundiais em análise forense digital, passou os últimos 30 anos a criar ferramentas para detetar conteúdos manipulados. Na sua TED Talk, explica passo a passo como a sua equipa verifica se uma imagem é autêntica ou gerada por IA. O seu trabalho tem sido usado por tribunais, governos e jornalistas de investigação para apanhar de tudo, desde fotografias falsas de reféns a CEO em deepfake usados em burlas de milhões.
O aviso de Farid é claro: o volume de conteúdos falsos está a explodir, e a maioria das pessoas não faz ideia de como distingui-los. Partilhar uma imagem falsa pode ser embaraçoso e contribui para uma crise crescente de desinformação.
Este guia detalha as técnicas centrais que Farid e a sua equipa usam para apanhar fotografias falsas, recorrendo à física, à geometria e à análise de sinal digital. Não precisa de um doutoramento para o acompanhar, mas precisa mesmo de deixar de partir do princípio de que o que vê online é real. Para um método atual, aqui fica uma forma passo a passo de saber se uma fotografia foi gerada por IA.
3 pistas que revelam uma fotografia gerada por IA
A investigação de Hany Farid mostrou que, embora a IA consiga gerar imagens incrivelmente realistas, falha muitas vezes quando se trata das regras subjacentes do mundo físico. A sua equipa usa técnicas forenses que vão além do realismo à superfície, mergulhando na estrutura matemática e geométrica da imagem.
Estes três métodos são usados por profissionais para detetar manipulação e fabricação. Assim que os compreender, começará a reparar em coisas que os modelos de IA erram sistematicamente.
O ruído não mente
Todas as fotografias tiradas com uma câmara real contêm ruído do sensor, pequenas imperfeições causadas pela luz a incidir no sensor eletrónico. Este ruído é aleatório e caótico e funciona como uma impressão digital de autenticidade. Mas as imagens geradas por IA não são criadas através da luz ou de lentes, são construídas com algoritmos estatísticos, que introduzem padrões diferentes.
A equipa de Farid analisa isto extraindo o ruído residual de uma imagem e aplicando uma transformada de Fourier, uma ferramenta matemática usada para examinar padrões em sinais. Nas fotografias reais, o resultado parece um borrão aleatório. Nas imagens geradas por IA, forma muitas vezes estruturas geométricas, sobretudo padrões em estrela ou radiais, que são um artefacto característico de modelos baseados em difusão como o DALL·E e o Midjourney.
Estes sinais visuais não se notam a olho nu, mas as ferramentas forenses conseguem revelá-los claramente. Segundo Farid, este método é uma das primeiras formas de distinguir conteúdo de IA, e continua a ser um dos mais fiáveis em escala.
Nota técnica: os modelos de IA treinados com técnicas de difusão partem de ruído puro e aprendem a remover o ruído das imagens. Ironicamente, esta «des-ruidificação» sintética deixa para trás um tipo diferente de ruído, e é essa a denúncia.
A geometria quebra a ilusão
Na fotografia do mundo real, os objetos obedecem às regras da perspetiva. Quando se fotografam linhas paralelas, como paredes, estradas ou azulejos, elas convergem num ponto de fuga, devido à forma como as câmaras captam o espaço tridimensional. Isto é conhecido há séculos e é um princípio básico tanto da arte como da ótica.
Mas os modelos de IA não «percebem» o espaço físico, geram com base na repetição de padrões e na probabilidade, não na geometria. Isso significa que erram muitas vezes a perspetiva.
Farid demonstra isto traçando linhas ao longo de elementos paralelos numa imagem suspeita. Numa fotografia real, essas linhas deviam encontrar-se num único ponto ao longe. Nas imagens falsas, as linhas estão ligeiramente desalinhadas, podendo convergir em pontos diferentes ou nunca se encontrarem. Essa incoerência é um enorme sinal de alerta, sobretudo em cenas arquitetónicas ou de interiores.
Esta técnica é particularmente eficaz para apanhar ambientes falsos, como quartos, corredores ou caves, onde a geometria deveria ser coerente. A IA pode acertar na textura, mas os erros de perspetiva traem a sua natureza sintética.
As sombras dizem a verdade
As sombras são outra área onde a IA falha sistematicamente. Na vida real, todas as sombras de uma única fonte de luz devem apontar de volta para essa fonte. Isto é física básica, e aplica-se quer esteja ao ar livre à luz do sol, quer dentro de casa sob um candeeiro.
Na sua análise, Farid seleciona várias sombras numa fotografia e traça-as em sentido inverso. Se forem naturais, as linhas cruzam-se na fonte de luz ou perto dela. Nas imagens falsas, muitas vezes não se encontram num único ponto, ou seguem em direções incoerentes.
Num dos casos, Farid destaca as sombras projetadas pelas pernas de soldados numa fotografia fabricada. As direções estavam dispersas, claramente incoerentes com uma disposição de iluminação real.
Os geradores de imagens de IA têm dificuldade com o comportamento da luz, porque não estão a simular uma cena 3D real com traçado de raios ou modelos de iluminação física. Estão a gerar pixéis que parecem certos com base nos dados de treino, mas isso quebra-se muitas vezes sob escrutínio.
Este método é especialmente eficaz em cenas com iluminação dramática, como várias fontes de luz, sombras fortes ou candeeiros suspensos. Mesmo pequenas incoerências podem expor uma falsificação.
Estes três sinais, ruído, geometria e sombras, formam a base da análise forense moderna de imagens. Não precisa de software para os apanhar a todos, mas com prática e atenção começará a notar estranhezas que a maioria das pessoas ignora. Quanto mais conteúdo de IA inunda a internet, mais importante se torna treinar o olho e manter o espírito crítico.
As imagens de IA já estão a fazer danos reais
As imagens falsas não são um problema do futuro, são do presente. Das burlas à propaganda de guerra, os visuais gerados por IA estão ativamente a remodelar a forma como as pessoas pensam, agem e tomam decisões. Para um guia complementar passo a passo, veja o nosso tutorial sobre como detetar deepfakes de IA.
Milhões perdidos em videochamadas falsas
Em março de 2024, burlões usaram uma videochamada com deepfake para se fazerem passar pelo CFO de uma multinacional em Hong Kong. O funcionário das finanças transferiu 25 milhões de dólares durante a chamada, convencido de que era uma reunião legítima de executivos. Toda a cena, com vários participantes e vozes convincentes, foi gerada com ferramentas de IA treinadas com conteúdos públicos.
Isto já não é raro. Um inquérito de 2023 da Regula concluiu que 37% das empresas já tinham deparado com fraude por deepfake nas suas operações, desde falsos agentes de apoio ao cliente a candidatos a emprego falsificados.
Falsificações virais sequestram a atenção pública
Lembra-se do Papa com um casaco insuflado branco? Milhões de pessoas partilharam a imagem antes de se revelar que fora gerada por IA com o Midjourney. Demorou horas a desmentir, mas nessa altura o estrago já estava feito.
Durante o conflito de Gaza em 2023-2024, imagens de guerra falsas inundaram plataformas como o Telegram e o X. Cenas de violência, explosões e fotografias de vítimas geradas por IA tornaram-se virais sem qualquer fonte. As organizações de direitos humanos tiveram de gastar tempo e recursos a separar o facto da ficção, muitas vezes demasiado tarde para desfazer o impacto emocional e político.
Os deepfakes são usados como arma contra as mulheres
Em Espanha, mais de 20 raparigas em idade escolar foram alvo de nus gerados por IA em 2023. Na Coreia do Sul, grupos do Telegram usaram ferramentas de troca de rostos para criar pornografia deepfake de celebridades e colegas de turma. As vítimas enfrentam chantagem, destruição da reputação e trauma psicológico.
Segundo a Deeptrace Labs, 96% do conteúdo deepfake online em 2019 era pornografia não consentida, e os números só cresceram desde então, à medida que as ferramentas se tornaram mais fáceis de usar. E isto era em 2019, quando o vídeo realista de IA mal existia. Hoje, com ferramentas de geração muito mais avançadas, a dimensão do abuso é provavelmente muito maior, mas mais difícil de acompanhar.
O que pode fazer já
Não precisa de ser especialista em análise forense digital para se manter à frente, mas precisa mesmo de mudar a forma como interage com os conteúdos online. Eis o que realmente funciona:
1. Deixe de tratar as redes sociais como fonte de notícias
O Twitter (X), o TikTok e o Instagram não foram feitos para transmitir factos, foram feitos para gerar interação. Isso significa que o conteúdo falso se espalha mais depressa e mais longe do que a verdade. Use jornalismo verificado, não cronologias alimentadas por algoritmos, como a sua fonte da realidade.
2. Faça uma pausa antes de partilhar
Se uma fotografia reforça na perfeição a sua opinião, é um sinal de alerta. Procure uma fonte, contexto e confirmação antes de voltar a publicar. Partilhar conteúdo falso, mesmo por engano, amplifica a desinformação e mina a confiança.
3. Aprenda análise forense visual básica
Comece a reparar em sombras quebradas, reflexos distorcidos, geometria torta e mãos estranhas. A IA falha nos detalhes. Amplie, sobretudo em joias, olhos ou na coerência da iluminação. Ferramentas como o Google Lens ou o TinEye podem ajudar a rastrear a origem das imagens.
4. Use extensões e ferramentas do navegador
Novas ferramentas como o Reality Defender, o Deepfake Detector da Hive e o Photo Forensics conseguem analisar metadados ou detetar assinaturas de IA. Não são perfeitas, mas acrescentam uma camada extra de defesa.
5. Fale sobre o assunto
A desinformação prospera quando as pessoas presumem que estão sozinhas a duvidar do que veem. Normalize questionar as fotografias, sobretudo as virais. Quanto mais construirmos uma cultura de ceticismo perante os conteúdos, mais difícil é o conteúdo falso dominar.
As leis estão a acompanhar, lentamente
Os governos não estavam preparados para a velocidade da IA generativa, mas a regulação está a começar a ganhar forma. Em março de 2024, a UE aprovou o AI Act, que exige a rotulagem de conteúdos gerados por IA e regras mais rigorosas para sistemas de alto risco. A China já impõe marcas de água visíveis ou ocultas em conteúdos sintéticos desde o início de 2023. Entretanto, os EUA estão atrasados, apenas com esforços a nível estadual e com o DEEPFAKES Accountability Act ainda em fase de projeto.
As plataformas fizeram algumas promessas, o TikTok, a Meta e a OpenAI afirmam todos estar a implementar ferramentas de rotulagem, mas a aplicação é fraca e inconsistente. A maioria das falsificações de IA continua a tornar-se viral muito antes de serem assinaladas.
Em resumo: as leis estão a chegar, mas estão anos atrás da tecnologia. Até a regulação acompanhar, são os utilizadores, os jornalistas e os programadores que têm de fazer o trabalho pesado.
Conclusão
As imagens geradas por IA já não são experimentais nem de nicho, estão por todo o lado. Com ferramentas como o Midjourney, o DALL·E e o Stable Diffusion, qualquer pessoa consegue produzir conteúdo hiper-realista em segundos. Estas falsificações espalham-se depressa, desencadeiam emoções e tornam-se muitas vezes virais antes de alguém perguntar se são reais. E, assim que uma falsificação se instala na memória pública, é quase impossível desfazer o estrago.
A boa notícia? Temos as ferramentas para reagir. As técnicas forenses conseguem detetar anomalias no ruído, na iluminação e na geometria. Normas de proveniência de conteúdos como o C2PA estão a ser implementadas para etiquetar os conteúdos sintéticos no momento da criação. Mas nada disto importa se o público não souber, ou não se importar, como verificar o que vê.
Isto não é apenas uma questão de uma imagem falsa. É uma questão de escala, milhões de fotografias e vídeos manipulados a moldar convicções, eleições, mercados e reputações. É uma lenta erosão da realidade partilhada.
E agora? Deixe de confiar nos visuais por defeito. Questione o que vê, sobretudo quando se espalha depressa ou parece perfeito demais. Pressione as plataformas e os legisladores a tratarem o conteúdo sintético como uma ameaça real. E, acima de tudo: treine o olho, pense de forma crítica e partilhe com responsabilidade. Num mundo onde a verdade compete com pixéis, a consciência é a sua única defesa.
