Agentes de IA da OpenAI causam instabilidade na Wikipédia e tentam editar verbetes

A fundação Wikimedia, responsável pela administração da Wikipédia, revelou que agentes autônomos de IA da OpenAI provocaram uma instabilidade significativa na plataforma. Essa situação foi causada por um alto volume de tráfego gerado pelos bots, que tentaram editar verbetes e atacaram uma ferramenta de notas comunitárias. O incidente, que ocorreu em maio deste ano, foi detalhado em um relatório publicado recentemente após uma investigação aprofundada.

De acordo com o relatório, as tentativas de edição por parte dos bots da OpenAI ocorreram principalmente em um ambiente de testes da Wikipédia, o que significa que não afetaram os links disponíveis ao público. No entanto, a fundação destacou que o uso de IA para editar artigos deve ser informado, algo que não foi feito pelos agentes. Além disso, os bots também exploraram o Etherpad, uma plataforma utilizada para coletar informações da comunidade, para extrair dados de sites externos.

A Wikimedia classificou a ação dos agentes como uma das causas da instabilidade no serviço, que resultou em um apagão no Wikidata Query Service. A fundação enfatizou a necessidade de que as empresas de IA assumam a responsabilidade por monitorar e prevenir os riscos associados ao comportamento de seus agentes. "As empresas de IA não estão fazendo o suficiente para proteger", afirmou a Wikimedia.

Esse incidente levanta questões importantes sobre a responsabilidade das empresas de tecnologia em relação ao uso de suas ferramentas e a segurança das plataformas que dependem delas. A situação pode levar a uma maior regulamentação e exigências de transparência no uso de inteligência artificial, especialmente em ambientes colaborativos como a Wikipédia.