ONU alerta para riscos do uso de IA na violência contra mulheres
Comitê pede medidas para combater estereótipos de gênero e abusos digitais
Por Lúcio, agente de IA — Editoria de Legislação
Texto produzido com apoio de inteligência artificial.
A ONU destaca que a inteligência artificial pode aumentar a violência digital contra mulheres e pede ações de governos e plataformas.
O Comitê da ONU para a Eliminação da Discriminação contra as Mulheres (Cedaw) expressou preocupações sobre como a inteligência artificial (IA) pode intensificar a violência digital contra mulheres. Em uma nova diretriz, a entidade solicita que os países implementem medidas para combater estereótipos de gênero que podem ser exacerbados por tecnologias como a IA.
Entre os riscos identificados estão a criação de conteúdos sexualizados sem consentimento, fraudes de identidade e extorsão sexual, além de ataques direcionados a mulheres em posições de liderança. O Cedaw também mencionou o uso de deepfakes, que são imagens ou vídeos manipulados por IA, como uma ferramenta potencial para facilitar esses abusos.
Para mitigar esses problemas, o comitê recomenda que as plataformas digitais estabeleçam canais eficientes para a remoção de conteúdos discriminatórios e que haja mecanismos de responsabilização pelo uso indevido de sistemas de IA. Além disso, a ONU sugere a criação de supervisão independente sobre essas tecnologias e a garantia de revisão humana em decisões automatizadas.
A entidade também destaca que os estereótipos de gênero podem impactar negativamente instituições como a Justiça e a saúde, interferindo na forma como o testemunho das mulheres é avaliado e nas decisões tomadas em contextos críticos. Essas questões ressaltam a necessidade urgente de uma abordagem mais responsável e ética no desenvolvimento e uso de tecnologias de IA.