A violência que a inteligência artificial inventa

Desde janeiro de 2024, bullying e cyberbullying passaram a integrar o Código Penal brasileiro
Foto: Divulgação

Uma imagem pode nunca ter acontecido e, ainda assim, mudar a vida de alguém. É essa uma das características mais perturbadoras dos chamados deepfakes sexuais: conteúdos produzidos ou manipulados por inteligência artificial que simulam nudez ou situações de teor sexual envolvendo pessoas que nunca estiveram naquela cena. A tecnologia cria a imagem. A rede faz o restante.
No ambiente escolar, o fenômeno acrescenta uma nova camada a problemas antigos, como bullying, exposição, humilhação e violência de gênero. O que antes dependia de uma fotografia verdadeira, capturada ou compartilhada sem autorização, agora pode ser fabricado a partir de uma imagem comum publicada nas redes sociais.
Um levantamento da SaferNet Brasil identificou 16 casos de deepfakes sexuais registrados em escolas de dez estados brasileiros entre 2023 e 2025. A pesquisa, apoiada pelo fundo Safe Online, do Fundo das Nações Unidas para a Infância (Unicef), também mapeou 57 agressores, todos menores de 18 anos quando os episódios aconteceram, e 72 vítimas.
Os números, porém, não representam necessariamente a dimensão real do problema. A própria organização ressalta que não existe hoje um sistema capaz de monitorar de forma abrangente a ocorrência desses crimes e o andamento das investigações.
Um único caso registrado no Distrito Federal, por exemplo, envolveu dez vítimas. Por trás dos números existe uma questão que talvez seja ainda mais difícil de dimensionar: o que acontece com uma adolescente quando uma imagem falsa passa a ser socialmente tratada como verdadeira?

UMA IMAGEM QUE NÃO EXISTE, UMA HUMILHAÇÃO QUE EXISTE
A inteligência artificial generativa tornou acessíveis ferramentas que antes exigiam conhecimentos técnicos muito mais sofisticados. Aplicativos capazes de alterar imagens e produzir representações sexualizadas passaram a circular entre adolescentes e em comunidades fechadas de plataformas como Discord e Telegram.
A tecnologia, nesse caso, não cria necessariamente uma nova vontade. Ela oferece uma ferramenta para comportamentos que já existiam.
Humilhar alguém continua sendo humilhar. Expor continua sendo expor. O que mudou foi a facilidade com que uma imagem pode ser produzida, multiplicada e distribuída.
“Quando esse tipo de conteúdo circula em comunidades online sem moderação, o impacto emocional nas vítimas pode ser devastador”, afirma a advogada e pesquisadora Cléo Garcia, doutoranda em Educação pela Unicamp.
Para ela, existe uma relação possível entre esse tipo de violência e processos de radicalização de adolescentes, especialmente quando os ambientes digitais passam a reforçar discursos de ódio, misoginia e desumanização.
A questão não está apenas na imagem produzida pela inteligência artificial, mas no ambiente que permite que ela seja criada, compartilhada e transformada em instrumento de poder.
A vítima pode ser conhecida por quem produz o conteúdo, estudar na mesma escola ou simplesmente ter uma fotografia disponível nas redes sociais. A partir daí, uma imagem cotidiana pode ser transformada em algo que nunca aconteceu.
E a mentira passa a produzir consequências verdadeiras.
Vergonha. Isolamento. Medo de frequentar a escola. Constrangimento diante dos colegas. Dificuldade de confiar novamente nas pessoas.

O DIGITAL NÃO TERMINA NA TELA
Existe uma tendência de tratar a violência virtual como algo menos concreto do que aquela que acontece presencialmente. Mas, para quem é vítima, não existe uma fronteira tão clara.
A pessoa que foi exposta precisa continuar encontrando os mesmos colegas. Precisa entrar na sala de aula, participar de grupos, circular pelo pátio e conviver com a possibilidade de que alguém tenha visto — ou ainda esteja compartilhando — aquela imagem.
É justamente por isso que especialistas defendem que as escolas não tratem os deepfakes apenas como um problema tecnológico.
Desde janeiro de 2024, bullying e cyberbullying passaram a integrar o Código Penal brasileiro, com previsão de punições específicas. Para Cléo Garcia, porém, a existência da lei é apenas uma parte da resposta.
O enfrentamento também passa pela criação de protocolos, pelo acolhimento das vítimas e pela preparação de profissionais para reconhecer e interromper situações de violência. “Vejo a violência tecnológica como uma nova linguagem para velhas feridas sociais”, afirma.
A frase ajuda a colocar o fenômeno em perspectiva. A inteligência artificial pode ter criado uma nova ferramenta, mas não inventou a necessidade humana de pertencer, nem a crueldade da exclusão, nem a dinâmica de transformar alguém em alvo diante de um grupo.

A ESCOLA DIANTE DE UMA NOVA FRONTEIRA
O desafio é que a escola agora precisa lidar com algo que acontece, muitas vezes, fora de seus muros e depois invade seus corredores.
Uma imagem pode ser produzida à noite, em uma casa, por meio de um celular. Na manhã seguinte, ela pode estar circulando entre dezenas de estudantes.
É nesse intervalo que aparece uma das maiores dificuldades para educadores: como agir diante de uma violência que não começou dentro da escola, mas produz consequências diretamente dentro dela?
A resposta não está apenas em proibir celulares ou bloquear plataformas. Também não está em transferir toda a responsabilidade para adolescentes que, muitas vezes, sequer compreendem a dimensão das consequências do que compartilham.
O trabalho preventivo passa pela educação digital, mas também por temas mais amplos: consentimento, privacidade, sexualidade, respeito, responsabilidade coletiva e compreensão dos efeitos que uma exposição pública pode produzir.
Para Garcia, intervenções socioeducativas devem fazer parte dessa resposta. A escola precisa criar espaços de diálogo e desenvolver uma cultura de cuidado, além de estabelecer caminhos claros para que uma vítima saiba a quem recorrer.
Isso significa ensinar algo que talvez seja mais importante do que simplesmente aprender a utilizar uma nova tecnologia: compreender que ter capacidade técnica para fazer alguma coisa não significa ter o direito de fazê-la.

A MÁQUINA TAMBÉM APRENDE
Existe ainda outro personagem nessa história: o algoritmo.
Plataformas digitais são estruturadas para identificar aquilo que desperta atenção e mantém o usuário conectado. Conteúdos que provocam emoções intensas podem alcançar mais pessoas, enquanto sistemas automatizados aprendem com os comportamentos de quem os utiliza.
A professora e pesquisadora Sandra Ávila, do Instituto de Computação da Unicamp, chama atenção para essa lógica. Em sua área de pesquisa, a inteligência artificial é utilizada para reconhecer padrões e analisar grandes volumes de dados, inclusive em situações nas quais a tecnologia pode contribuir para identificar possíveis casos de violência.
O mesmo princípio, porém, pode ser explorado para produzir e disseminar conteúdos prejudiciais.
Os aplicativos capazes de “desnudar” digitalmente uma pessoa são um exemplo.
Segundo Ávila, os casos identificados pela SaferNet provavelmente representam apenas uma parcela do fenômeno. Há ainda um obstáculo adicional: tutoriais que ensinam a produzir esse tipo de material podem ser encontrados facilmente na internet.
A tecnologia, portanto, avança mais rapidamente do que a capacidade das instituições de acompanhar seus efeitos.

NÃO É SÓ SOBRE INTELIGÊNCIA ARTIFICIAL
Talvez seja esse o ponto mais importante para compreender os deepfakes sexuais nas escolas.
A discussão não é apenas sobre o que uma máquina consegue fabricar. É sobre o que uma sociedade está disposta a fazer com aquilo que a máquina torna possível.
Uma fotografia pode virar uma nudez falsa. Uma brincadeira pode virar humilhação coletiva. Uma postagem pode se transformar em instrumento de perseguição.
E uma tecnologia criada para produzir imagens pode acabar revelando algo muito mais antigo: como ainda lidamos com o corpo feminino, com a intimidade, com a diferença e com o poder de expor o outro.
Por isso, combater esse tipo de violência não significa apenas criar ferramentas capazes de identificar uma imagem falsa.
Significa construir uma cultura na qual a humilhação deixe de ser entretenimento, a exposição deixe de ser moeda social e a tecnologia seja compreendida como ferramenta — não como autorização para ultrapassar o limite do outro.