Em um comunicado conjunto, várias agências da ONU alertaram sobre “a quantidade impressionante de conteúdo prejudicial gerado pela inteligência artificial (IA) online” e pediram a adoção de medidas urgentes para evitar a exploração e o trauma psicológico.

Além disso, eles detalharam que, somente nos Estados Unidos, os crimes desse tipo aumentaram de 4.700 em 2023 para 67.000 em 2024.

O diretor do Escritório de Desenvolvimento da União Internacional de Telecomunicações (UIT), Cosmas Zavazava, lembrou que, durante a pandemia da Covid-19, muitas crianças e jovens foram abusados por meio de plataformas digitais, através de cyberbullying e conteúdo impróprio, o que, em muitos casos, resultou em danos físicos.

Além disso, ele alertou que a IA é usada para analisar o comportamento online das crianças, seu estado emocional e seus interesses, com o objetivo de adaptar uma estratégia de assédio.

Os criminosos também geram imagens falsas para extorquir suas vítimas.

“Estamos realmente preocupados e gostaríamos que o setor privado se envolvesse, participasse e fizesse parte da história que estamos escrevendo junto com outras agências da ONU e outros atores que acreditam que a tecnologia pode ser um facilitador, mas também pode destruir”, disse Zavazava.

As crianças estão se conectando à Internet cada vez mais cedo e precisam ser protegidas. Por isso, é necessária a cooperação dos pais, professores, reguladores, indústria e setor privado, acrescentou.

Entre as recomendações feitas, as agências incluíram o fortalecimento das estruturas de governança da IA, a incorporação dos direitos das crianças em todos os programas relacionados à mesma, a aplicação de ações para prevenir a violência, a aprovação de medidas sólidas de proteção de dados e a tomada de decisões centradas no interesse superior e no desenvolvimento integral de cada criança.

mem/gas/bm