a última terça-feira, 28, a Polícia Federal deflagrou a quarta fase da Operação Nacional Proteção Integral, que prendeu autores de crimes de abuso sexual contra crianças e adolescentes, sobretudo em ambientes digitais. A recorrência da ação apresenta fatos que vão além do combate ao crime: livrar essas vítimas do ambiente que as expõe é quase sempre um processo lento e que depende de soluções ainda em desenvolvimento, incompletas e inseguras.

Uma pesquisa recente infiltrou robôs de Inteligência Artificial em plataformas interativas de transmissão ao vivo - jogos, entretenimento, esportes e música - e descobriu que, mesmo em espaços supostamente apropriados para a idade, crianças e adolescentes têm um nível de exposição a conteúdos tóxicos semelhantes ao observado entre usuários adultos no Brasil e nos EUA.

De acordo com os pesquisadores responsáveis pelo estudo, Humberto Torres Marques-Neto, da Católica de Minas Gerais (PUC Minas), e a orientadora dele, Jussara Almeida, do departamento de Ciência da Computação da Universidade Federal de Minas Gerais (UFMG), garantir a segurança desses ambientes é um desafio enorme, mas precisa ser o próximo passo do País.

Metodologia da pesquisa

A análise dos pesquisadores indicou que cerca de 5% das mensagens continham conteúdo tóxico. Os cientistas alertam para o fato de que, à primeira vista, o percentual pode parecer baixo. No entanto, em transmissões com milhares de comentários por hora, isso representa contato recorrente com insultos.

Nenhuma criança real participou da pesquisa. Foram criados seis robôs que simularam ser usuários de 13, 15 e 18 anos, nos dois países. Esses agentes atuavam de forma passiva: assistiam às transmissões, coletavam os dados de interesse, mas não interagiam com outros usuários. Por cerca de 30 dias, eles acessaram a plataforma seis vezes por dia, em horários variados. Ao final, os pesquisadores analisaram 4.260 transmissões, 2.040 canais e aproximadamente 443 mil mensagens de chats.

Diante dos resultados observados, a equipe está trabalhando no desenvolvimento de mecanismos que possam ser mais eficientes para detectar padrões tóxicos com maior precisão. “A gente tem algumas ideias de como se fazer isso, mas está no campo das hipóteses. A inteligência artificial pode ajudar muito nisso, monitorando continuamente, identificando padrões e risco aumentando. Isso é factível” diz a pesquisadora Almeida.

Em alguns desses casos de conteúdo tóxico, a identificação é desafiadora. Algumas ofensas não são padrão, mas a criança entende e sente. Alguns insultos com emojis foram identificados apenas por alunos mais velhos que entenderam o que significa que vai além do óbvio. Mas o efeito na cabeça de uma criança é outro completamente diferente.

Novas regras

Em meados de abril, entrou em vigor no Brasil o Estatuto da Criança e do Adolescente (ECA) Digital, uma série de normas de proteção para menores em espaços virtuais. Ela define, entre outras coisas, que sites e aplicativos voltados para esse público ou com provável acesso deles deverão implementar medidas de segurança como ferramentas de controle parental acessíveis.

Além disso, precisarão garantir aferição de idade, assim como os que têm conteúdos ou produtos para quem tem mais de 18 anos, como pornografia, apostas e venda bebidas alcoólicas.

O governo federal também divulgou um cronograma definindo que todas as plataformas precisam terminar a implementação de métodos de aferição de idade até janeiro de 2027. Outros mecanismos de proteção, porém, já devem ser disponibilizados.