A rápida evolução das tecnologias de Inteligência Artificial (IA) gerou um apelo urgente das Nações Unidas. Em um documento conjunto publicado recentemente, agências da ONU alertam que a proliferação de ferramentas baseadas em IA está criando novas e perigosas formas de abuso, exploração e danos psicológicos contra crianças e adolescentes no ambiente digital.
Especialistas defendem que a proteção de menores na internet deve ser tratada como uma prioridade máxima de direitos humanos, exigindo ações coordenadas entre governos e empresas de tecnologia.
As novas ameaças potencializadas pela IA
O avanço da tecnologia deu aos agressores ferramentas sofisticadas para manipular vítimas. Entre os riscos citados pela União Internacional das Telecomunicações (UIT), destacam-se:
- Deepfakes e Extorsão: O uso de IA para gerar imagens falsas e sexualmente explícitas de crianças reais tem impulsionado casos de sextorsão.
- Aliciamento Inteligente: Agressores utilizam algoritmos para analisar comportamentos e emoções de menores, personalizando estratégias de manipulação.
- Ciberbullying Automatizado: Plataformas que permitem a criação rápida de conteúdos depreciativos ou nocivos voltados para o público jovem.
- Funcionalidades Viciantes: Algoritmos projetados para prender a atenção podem expor crianças a conteúdos inadequados ou perigosos de forma recorrente.
Resposta internacional: O caso da Austrália e outros países
Diante da gravidade, nações começaram a adotar posturas mais rígidas. A Austrália se tornou pioneira ao proibir redes sociais para menores de 16 anos no final de 2025. Países como Reino Unido, França e Canadá já preparam legislações similares para restringir o acesso e aumentar a segurança das plataformas.
Segundo Cosmas Zavazava, diretor da UIT, a experiência da pandemia mostrou que o abuso online pode resultar em danos físicos reais, tornando a regulação um passo indispensável para a segurança pública.
Falta de literacia digital e responsabilidade corporativa
A ONU identifica um “vácuo” de conhecimento. Pais, professores e até decisores políticos carecem de literacia em IA, o que dificulta a avaliação dos impactos nos direitos da criança.
O documento aponta que o setor privado tem responsabilidade direta:
- Design Seguro: Muitas ferramentas de IA não são projetadas pensando no bem-estar infantil.
- Transparência: Empresas devem ser obrigadas a realizar avaliações de impacto sobre o uso de seus dados por menores.
- Compromisso: A ONU reforça que a inovação tecnológica não deve ser desculpa para a negligência com populações vulneráveis.
Tabela: Principais Riscos vs. Recomendações da ONU
| Risco Identificado | Recomendação da ONU |
| Geração de Deepfakes | Legislação rígida contra criação de imagens falsas de menores. |
| Algoritmos de Aliciamento | Auditoria técnica e monitoramento por parte das big techs. |
| Exposição a Conteúdo Nocivo | Implementação de filtros de IA e verificação de idade eficaz. |
| Baixa Literacia Digital | Programas de educação em IA para famílias e escolas. |
Embora a Convenção sobre os Direitos da Criança tenha sido atualizada em 2021, o sistema das Nações Unidas acredita que novas diretrizes são vitais para enfrentar a IA.
O objetivo é promover um ambiente digital que permita o desenvolvimento dos jovens sem expô-los a predadores tecnológicos.
