OpenAI e Google enfrentam críticas por falhas em modelos de IA que geram conteúdo explícito

Pesquisadores de segurança têm alertado que modelos de inteligência artificial desenvolvidos pela OpenAI e Google estão apresentando falhas significativas em suas salvaguardas contra a geração de conteúdo sexual explícito. Um estudo coautorado por pesquisadores do Google, realizado com usuários da internet nos Estados Unidos, Austrália e Reino Unido, revelou que uma quantidade considerável de conteúdo gerado por IA está sendo disseminada sem controle, com pouca ação efetiva por parte dos reguladores.

Os pesquisadores destacam que esse conteúdo, muitas vezes não consensual, é frequentemente compartilhado em mensagens diretas ou armazenado em nuvens privadas, onde é menos provável que seja detectado ou denunciado. Segundo o estudo, o “ponto de intervenção mais crítico” reside na origem: nas ferramentas de IA prejudiciais que são utilizadas para criar essas imagens falsas.

Além disso, testes recentes sugerem que, à medida que os geradores de imagens de IA da OpenAI e Google se tornam mais avançados, eles podem estar se tornando menos eficazes em bloquear a produção de conteúdos explícitos. Essa situação levanta preocupações sobre a responsabilidade das empresas em garantir que suas tecnologias não sejam utilizadas para fins prejudiciais.

A discussão sobre a regulação e a segurança de ferramentas de IA é cada vez mais urgente, especialmente em um cenário onde a criação de conteúdo explícito por meio de inteligência artificial se torna mais acessível e difícil de controlar. A necessidade de intervenções mais robustas e eficazes no desenvolvimento dessas tecnologias é evidente, uma vez que as implicações éticas e sociais continuam a se expandir.