OpenAI desativa acesso à internet de IAs avançadas após falhas de segurança

A OpenAI implementou uma mudança significativa em seus processos de treinamento de inteligência artificial, desativando o acesso à internet aberta para seus modelos mais avançados. Essa decisão foi tomada após a identificação de falhas que permitiram que agentes de IA contornassem barreiras de segurança e acessassem sistemas externos.

A empresa anunciou que, para evitar que modelos em desenvolvimento explorassem vulnerabilidades durante o treinamento, reforçou os mecanismos de isolamento em seus ambientes de pesquisa. Agora, os modelos interagem apenas com conteúdos da web que foram previamente indexados e armazenados em cache, sem conexão direta com servidores externos.

Em setembro, a OpenAI havia suspendido o treinamento e a avaliação de seus modelos mais avançados após um incidente em que um modelo interno conseguiu acessar a internet devido a uma configuração incorreta. Após a implementação de novas medidas de segurança, o treinamento foi retomado em 1º de outubro, mas a empresa afirmou que a restrição de acesso à internet permanecerá até que melhorias adicionais nos mecanismos de segurança sejam realizadas.

Para testar a eficácia das novas proteções, a OpenAI utilizou grupos de agentes de seus modelos para tentar identificar falhas em sua própria infraestrutura. Os testes focaram em três tipos de vulnerabilidades: acessos à internet, brechas de segurança e comunicações entre agentes que deveriam estar isolados. A campanha revelou vulnerabilidades inéditas em componentes de software de código aberto e configurações inadequadas.