Centenas de aplicativos de IA comuns escondem recursos de deepfake abusivos

Uma recente investigação revelou que aproximadamente 400 aplicativos e sites, desenvolvidos por criadores que falam chinês, apresentam características que vão além de suas funções aparentes. Embora esses aplicativos se apresentem como ferramentas comuns de inteligência artificial, muitos deles possuem recursos ocultos que permitem a criação de imagens e vídeos gerados por IA com conteúdo violento e abusivo.

Essas descobertas levantam preocupações significativas sobre a segurança e a ética no uso de tecnologias de inteligência artificial. A possibilidade de que ferramentas que deveriam ser inofensivas possam ser utilizadas para gerar conteúdo prejudicial destaca a necessidade de uma maior supervisão e regulamentação nesse setor.

As implicações para usuários e desenvolvedores são profundas. Para os usuários, isso pode significar um risco maior de exposição a conteúdos nocivos, enquanto para os desenvolvedores, a reputação de suas ferramentas pode ser seriamente afetada se forem associadas a práticas abusivas. A situação também chama a atenção para a necessidade de uma maior transparência nas funcionalidades dos aplicativos de IA.

"A descoberta de que muitos aplicativos comuns podem ter funcionalidades tão problemáticas é alarmante", afirmaram os pesquisadores envolvidos na investigação. Isso sugere que, sem uma regulamentação adequada, o uso de IA pode ser direcionado para fins prejudiciais, o que pode afetar a confiança do público em tecnologias emergentes.