O tema sobre falsos nudes produzidos com Inteligência Artificial (IA) ganhou destaque nas redes sociais brasileiras após duas adolescentes de uma escola em Belo Horizonte, Minas Gerais, serem vítimas de um colega de turma que teria utilizado IA para criar imagens manipuladas das menores.

O CadaMinuto conversou com o advogado Marcelo Herval e o delegado Sidney Tenório, que falaram um pouco sobre os aspectos jurídicos e a atuação da polícia envolvendo a prática de manipulação de imagens e sua divulgação.

Nenhum registro em Alagoas

Alagoas não registrou nenhum caso de falso nudes produzido por IA. A informação foi passada ao CadaMinuto pelo delegado da Divisão Especial de Investigação e Capturas (Deic) da Polícia Civil de Alagoas, Sidney Tenório.

"Nós não temos registro ainda de nudes falsos criados por inteligência artificial. Eu digo ainda porque é um dos riscos que a gente tem", disse o delegado.

O delegado ressalta que, mesmo não tendo registros de casos no estado, a investigação deve seguir na mesma modalidade de investigação dos casos envolvendo compartilhamento de fotos íntimas nas redes sociais. “Isso parte da criação de uma inteligência artificial, mas isso será compartilhado em alguma rede social”.

Segundo ele, não existe um crime específico ainda no Brasil para manipulação de imagens. “A pessoa que for responsabilizada por isso, vai ser responsabilizada basicamente por crime contra a honra”.

Sidney afirma que a situação gera um debate principalmente jurídico sobre onde enquadrar a prática de manipulação de imagens, devido às discussões sobre ter sido utilizada a foto de uma pessoa, ainda que não seja verdadeiramente essa pessoa na manipulação.

O que diz a lei?

Ao CadaMinuto, o advogado criminalista e professor de Direito da Faculdade Delmiro Gouveia (FDG/AL), Marcelo Herval explica o que prevê a lei em  casos de falsos nudes produzidos por IA que envolvem menores de idade. Marcelo afirma que esses casos constituem ato ilícito, passível de ser responsabilizado na esfera cível, administrativa e criminal.

Ele argumenta que casos envolvendo menores serão amparados pelo Estatuto da Criança e do Adolescente. “O Estatuto dispõe sobre as condutas que violam direitos das crianças e dos adolescentes e estabelece, no seu artigo 241-C, que constitui crime simular a participação de criança ou adolescente em cena de sexo explícito ou pornográfica por meio de adulteração, montagem ou modificação de fotografia, vídeo ou qualquer outra forma de representação visual”.

O advogado expõe que a legislação pune não apenas aqueles que criam ou adulteram as falsas imagens pornográficas, mas também aqueles que vendem, disponibilizam ou simplesmente divulgam, por qualquer meio.

Segundo Marcelo, caso o autor ou propagador das imagens falsas seja menor de idade, ele estará sujeito a responder a um processo pela prática de ato infracional análogo ao crime. “Ele pode sofrer uma medida socioeducativa que varia entre a mera advertência até a internação em estabelecimento socioeducativo, pelo período máximo de três anos”.

O professor também esclarece que o autor dessas condutas pode ser condenado ao pagamento de um valor indenizatório pelos danos materiais e/ou morais causados pelo seu comportamento, devido à violação aos direitos fundamentais das vítimas, como a intimidade, a privacidade, a honra e a dignidade.

“Caso os autores ou divulgadores dessas imagens sejam menores de idade, os pais podem vir a ser responsabilizados, arcando com os danos provocados por seus filhos”, justifica.

Desafios legais ao lidar com a prática

O advogado defende que a maior dificuldade legal para lidar com a prática consiste em identificar a autoria das condutas criminosas, já que geralmente ocorrem em ambiente cibernético, de forma anônima e clandestina.

“É necessário desenvolver uma investigação capaz de individualizar, mediante a utilização de recursos tecnológicos específicos, aqueles que tenham criado ou divulgado as falsas imagens pornográficas envolvendo crianças ou adolescentes”, pontua.

Conforme Marcelo, o ideal é procurar, o quanto antes, a Delegacia Especializada de Crimes contra Criança e Adolescente (DCCA) caso os pais tomem conhecimento de que seus filhos foram vítimas desse crime, para registrar um Boletim de Ocorrência e dar início à investigação, a fim de apurar os responsáveis pelo fato.

Prevenção

O professor de direito explica que a principal forma de evitar os crimes cibernéticos é prevenindo. Para ele, é necessário que haja uma comunhão de esforços entre as escolas, as famílias e o próprio Estado, a fim de conscientizar a população, sobretudo os jovens, sobre os riscos da utilização das redes sociais e da penalidade dos atos ilícitos praticados.

“No caso específico de crianças e adolescentes, as escolas precisam incluir em seus programas pedagógicos campanhas de conscientização sobre boas práticas no uso das redes sociais, esclarecendo aos jovens que o mesmo respeito que se deve ao outro fora das telas deve, também, nortear as relações criadas e mantidas dentro delas”, defende.

Marcelo opina que é necessário conscientizar a sociedade, sobretudo as crianças, que a internet não é uma “terra sem lei” e que condutas que violem direitos alheios são passíveis de responsabilização.

“Tal conscientização se faz especialmente necessária no caso de crianças e adolescentes, tendo em vista que são pessoas em processo de amadurecimento biopsicossocial”, alega.

Por fim, o advogado propõe que as escolas adotem campanhas educativas orientando seus alunos quanto a boas práticas no uso da tecnologia, especialmente das redes sociais.

*Estagiária sob supervisão da editoria