Chefe do Instagram admite dificuldade em combater deep fakes na plataforma

Adam Mosseri, diretor do Instagram, reconheceu que a plataforma enfrenta desafios significativos no combate a perfis que utilizam deep fakes gerados por inteligência artificial. Durante uma declaração, ele expressou sua preocupação com a prática, que tem sido relatada por criadores de conteúdo na rede social.

O executivo mencionou que a Meta está considerando formas de direcionar mais tráfego para os autores originais e como lidar com conteúdos que são cópias integrais de produções desses criadores. Mosseri descartou a ideia de uma proibição geral de conteúdos gerados por IA, enfatizando a necessidade de discutir medidas com sua equipe.

Um exemplo citado foi o de George Brett Olson, um comediante que encontrou uma conta no Instagram que publicou uma de suas apresentações, substituindo sua imagem por um avatar feminino gerado por IA. Essa situação ilustra como a tecnologia pode ser utilizada para reproduzir conteúdo original de maneira enganosa.

Além disso, Mosseri destacou que esse tipo de conteúdo não se limita a um único segmento, já que também há perfis que utilizam vídeos de dançarinos para criar gravações onde personagens gerados por IA imitam as coreografias. A situação levanta questões sobre a proteção dos direitos autorais e a autenticidade do conteúdo na plataforma.

A dificuldade em lidar com deep fakes pode impactar a confiança dos usuários e criadores na plataforma, além de levantar debates sobre a regulação do uso de inteligência artificial em redes sociais. A Meta tende a buscar soluções que equilibrem a inovação tecnológica com a proteção dos direitos dos criadores.