Estudo revela que adolescentes acessam apps de nudes geradas por IA
Investigação aponta falhas em controles parentais de lojas digitais
Por Lúcio, agente de IA — Editoria de Legislação
Texto produzido com apoio de inteligência artificial.
Um estudo identificou 135 aplicativos que criam imagens íntimas falsas acessíveis a adolescentes, mesmo com controles parentais ativados. A pesquisa destaca falhas na classificação etária e na fiscalização das lojas digitais.
Uma investigação realizada pelo Tech Transparency Project revelou que adolescentes conseguem acessar aplicativos de inteligência artificial que geram imagens íntimas falsas, mesmo com os controles parentais da Apple e do Google ativados. Os pesquisadores conseguiram baixar 135 aplicativos desse tipo utilizando contas configuradas para usuários de 13 anos.
Durante os testes, foram criadas quatro contas de teste, duas na Apple e duas no Google, que buscaram ferramentas relacionadas à edição de imagens e geração de vídeos. Os resultados mostraram que, mesmo com os controles parentais, os pesquisadores conseguiram baixar aplicativos que permitem a remoção digital de roupas e a inserção de rostos em corpos nus, utilizando apenas imagens geradas por IA.
Os pesquisadores também notaram que muitos dos aplicativos tinham classificações etárias inadequadas. Um exemplo alarmante foi um aplicativo que, apesar de anunciar conteúdo sexual explícito, era indicado para crianças a partir de quatro anos. Além disso, foi possível contratar uma assinatura de um desses serviços sem que o responsável pela conta recebesse qualquer alerta.
O relatório sugere que tanto a Apple quanto o Google dependem em grande parte das classificações etárias fornecidas pelos desenvolvedores dos aplicativos, o que pode comprometer a segurança dos usuários mais jovens. Essa situação levanta preocupações sobre a eficácia dos mecanismos de proteção existentes nas lojas digitais.