Moonshot limita capacidades de modelo de IA para evitar ataques hackers

A startup chinesa Moonshot AI anunciou a redução das capacidades de seu modelo de inteligência artificial mais avançado, o Kimi K3.1 Pro. Essa decisão foi tomada em resposta a preocupações crescentes sobre o uso da IA para facilitar ataques hackers, que se tornariam mais sofisticados e acessíveis.

Com sede em Pequim, a Moonshot descreve o Kimi K3.1 Pro como seu modelo aberto mais avançado até o momento, permitindo que desenvolvedores externos executem e modifiquem a IA em seus próprios sistemas. Para limitar o uso indevido, a empresa removeu dados relacionados a ciberataques do treinamento e dos ambientes de aprendizado por reforço utilizados no desenvolvimento do modelo.

Segundo a Moonshot, essa filtragem impede usos indevidos, ao mesmo tempo em que preserva as habilidades gerais de programação do K3.1 Pro. Um benchmark interno de cibersegurança revelou que o modelo obteve 81,0% em um teste de exploração de vulnerabilidades de software, em comparação com 90,5% de uma versão anterior sem as limitações. A empresa afirma que, apesar da redução no desempenho ofensivo, o novo modelo ainda supera seu antecessor.

A Moonshot também reconhece os desafios associados a modelos de IA abertos, que diferem de sistemas fechados, como os da OpenAI e Anthropic. Uma vez que os arquivos são amplamente distribuídos, o desenvolvedor original perde parte do controle sobre o acesso e o uso da tecnologia, dificultando a implementação de salvaguardas e atualizações.

Essas medidas refletem uma preocupação crescente com a segurança cibernética em um cenário onde a inteligência artificial pode ser utilizada tanto para fins benéficos quanto maliciosos. A abordagem da Moonshot pode influenciar outras empresas a reconsiderar como desenvolvem e distribuem suas tecnologias de IA, especialmente em um ambiente onde a proteção contra abusos é cada vez mais necessária.