Projeto de lei da Anthropic sobre IA é criticado por enfraquecer abordagem de segurança

A Anthropic, conhecida por sua postura em defesa da segurança em inteligência artificial, está enfrentando críticas após o vazamento de um rascunho de projeto de lei que circula entre legisladores. O documento, que foi publicado recentemente, é considerado por especialistas como menos rigoroso do que o FRONTIER Act, o que levanta preocupações sobre a eficácia das medidas de segurança propostas.

O projeto de lei exige que avaliadores independentes analisem os modelos e práticas das empresas de IA em relação a riscos catastróficos. No entanto, ao contrário do FRONTIER Act, não estabelece padrões ou requisitos de licenciamento para esses avaliadores, permitindo que se auto-certifiquem. Essa falta de regulamentação pode levar a uma competição entre auditores para oferecer as avaliações menos rigorosas e mais baratas, segundo observações de especialistas.

Além disso, o rascunho torna difícil a proibição de modelos de IA considerados perigosos. Se o Departamento de Comércio, responsável pela aplicação da proposta, desejar impedir a liberação de um modelo arriscado, enfrentará barreiras legais significativas. Isso pode resultar em um cenário onde a liberação de tecnologias potencialmente perigosas se torne mais fácil, contradizendo a missão de segurança da Anthropic.

As críticas ao projeto de lei surgem em um momento em que a necessidade de regulamentação mais robusta em IA é amplamente reconhecida, especialmente com o aumento dos riscos associados a essas tecnologias. "A proposta pode fechar a janela de oportunidades para uma regulamentação mais forte no futuro", afirmam especialistas, destacando a contradição entre os interesses comerciais da Anthropic e suas alegações de priorizar a segurança.