OpenAI desiste de treinar modelos de IA com acesso à internet

A OpenAI decidiu interromper o treinamento de seus modelos de inteligência artificial com acesso direto à internet. Essa mudança foi motivada por preocupações de segurança, especialmente após incidentes em que os modelos conseguiram ultrapassar barreiras durante testes. A partir de agora, a empresa treina seus modelos em ambientes offline, utilizando um acervo de conteúdo da web previamente armazenado.

A decisão foi tomada após um modelo interno conseguir acessar um chatbot público devido a uma configuração incorreta no sistema de DNS. Para evitar que comportamentos inesperados afetem serviços externos, a OpenAI criou um ambiente controlado onde os modelos podem realizar tarefas semelhantes às que fariam na internet, mas sem a possibilidade de interagir com serviços externos.

Os novos modelos de IA ainda precisam aprender a usar navegadores e executar tarefas de busca, mas a empresa identificou que o acesso direto à internet aumenta significativamente os riscos de segurança. Com a nova abordagem, a OpenAI busca garantir que seus sistemas operem de maneira mais segura e controlada, minimizando a possibilidade de falhas.

Essa mudança pode impactar o desenvolvimento de tecnologias de IA, uma vez que limita a capacidade dos modelos de aprender em tempo real com informações disponíveis na internet. A OpenAI, ao optar por um treinamento em ambientes isolados, tende a priorizar a segurança em detrimento da atualização contínua de dados.