Denúncia em Indaiatuba alerta para uso indevido de IA em imagens de estudantes

Victoria Geretto, advogada especialista em direito digital da AMG Advocacia
Foto: Divulgação

Por: Flávia Girardi
Cerca de 15 estudantes de Indaiatuba tiveram suas imagens manipuladas por inteligência artificial (IA) e aplicadas em corpos falsos, gerando conteúdos pornográficos. O caso, que está sendo investigado pela polícia, expõe a urgência de discutir o uso responsável da tecnologia e a proteção de crianças e adolescentes no ambiente digital. Segundo especialistas, a manipulação de fotos e vídeos com fins sexuais conhecida como deepfake pornográfico é crime e pode causar danos psicológicos profundos às vítimas, além de punições legais severas aos responsáveis. A advogada Victoria Geretto, especialista em direito digital da AMG Advocacia, explica que o deepfake consiste na manipulação de imagens, áudios ou vídeos por meio da IA. “O deepfake nada mais é do que a manipulação de imagens através da inteligência artificial para um fim objetivo. Pode ter um fim lícito, como no caso de recursos voltados à acessibilidade para pessoas com deficiência ou não. O problema está quando essa tecnologia é usada para fins pornográficos ou de exposição indevida”, destaca. De acordo com ela, a popularização das ferramentas de IA tem facilitado o acesso a esse tipo de prática. “Hoje, qualquer pessoa com um celular pode criar imagens falsas de forma extremamente realista. Em muitos casos, é praticamente impossível diferenciar o que é verdade e o que é manipulação. Quando falamos de adolescentes de 14 ou 15 anos, o impacto psicológico é devastador”, afirma. A advogada reforça que, mesmo quando se descobre que as imagens foram geradas por IA, o dano à reputação e a humilhação pública já ocorreram. “A exposição é irreversível. As vítimas se veem nas imagens e sofrem as consequências emocionais disso. É aterrorizante, especialmente para meninas que ainda estão em fase escolar”, lamenta.

Responsabilidade e consequências legais

Victoria explica que o caso de Indaiatuba não é isolado. “Temos recebido diversos relatos semelhantes em outras cidades. Em alguns, os próprios colegas criam as montagens por ‘brincadeira’ ou vingança, o que é gravíssimo. Esses adolescentes precisam entender que isso é crime”, alerta. Mesmo menores de idade podem ser responsabilizados. “Eles respondem conforme o Estatuto da Criança e do Adolescente. E, em certos casos, os pais também podem ser responsabilizados criminalmente. É preciso deixar claro: não existe impunidade. A internet é rastreável, e perfis falsos podem ser descobertos”, explica. A especialista orienta que as vítimas devem registrar boletim de ocorrência e procurar profissionais da área de direito digital. “O primeiro passo é acionar a polícia e registrar o crime. Depois, é necessário atuar para remover as imagens da internet o mais rápido possível, além de buscar indenização por danos morais e materiais”, afirma.

O papel das escolas e dos pais

Para Victoria, a conscientização é a melhor forma de prevenção. “As escolas têm uma responsabilidade social de trazer esse tema para o debate, assim como já fazem com o cyberbullying. É essencial que professores, pais e alunos entendam o que é o deepfake e os riscos do mau uso da tecnologia”, defende. Ela destaca ainda a importância do letramento digital desde cedo. “Os pais precisam ter consciência de que a educação digital deve começar muito antes da adolescência. Hoje, crianças com dois anos já mexem em celulares. Aos sete, já estão nas redes e nos jogos online. É nesse momento que o controle e o diálogo devem acontecer”, ressalta. A advogada cita o aumento de casos de assédio e aliciamento por meio de plataformas de jogos e aplicativos de conversa. “Temos registros de adultos que se passam por adolescentes para obter fotos íntimas e depois chantageiam as vítimas. Alguns casos chegam ao extremo de levar jovens ao suicídio. É um alerta urgente”, reforça. Por fim, Victoria deixa uma mensagem aos pais e educadores. “A tecnologia não é inimiga, o problema é o mau uso. Precisamos ensinar nossas crianças e adolescentes a usarem a internet com consciência, empatia e responsabilidade. E lembrar que, no ambiente digital, tudo deixa rastros.”

Os impactos psicológicos

A psicóloga Kátia Precoma, que atua como psicóloga clínica, assistente técnica e perita psicóloga, explica que as vítimas de crimes virtuais podem desenvolver uma série de efeitos emocionais e comportamentais graves. “As vítimas podem sofrer ansiedade, depressão, baixa autoestima e isolamento social. A exposição a ataques, assédio e invasão de privacidade pode gerar medo constante, sentimentos de humilhação e impotência e, em casos mais graves, transtornos como síndrome do pânico ou ideação suicida”, afirma. Segundo ela, os impactos mais comuns envolvem “o medo de novos ataques, tristeza profunda e a sensação de não ter controle sobre a própria vida, o que desencadeia quadros de ansiedade e depressão”. Kátia explica ainda que, no aspecto da autoimagem, as consequências são severas. “Muitas vítimas passam a ter baixa autoestima por conta de comentários depreciativos e exposição a conteúdos humilhantes. Isso leva ao isolamento e ao medo de interações online, intensificando a solidão e prejudicando o desenvolvimento emocional”, observa. Ela ressalta que a sensação de violação da privacidade e o sentimento de impotência podem evoluir para crises intensas de medo e sintomas físicos. “O corpo reage ao trauma: taquicardia, tremores e aversão a situações que remetam ao crime são comuns. O pânico e a paranoia passam a fazer parte do cotidiano”, explica. Para a especialista, o acompanhamento psicológico é indispensável. “O sofrimento emocional extremo pode levar à ideação suicida, abuso de substâncias e até automutilação, especialmente entre jovens. Por isso, o tratamento deve ser feito com profissionais qualificados, muitas vezes em conjunto com outras especialidades médicas”, alerta.