AWS aprimora GPT-OSS-20B para raciocínio multilíngue com SageMaker HyperPod

A Amazon Web Services (AWS) anunciou melhorias significativas no modelo GPT-OSS-20B, focando em sua capacidade de raciocínio multilíngue. Inicialmente, o modelo apresentava uma precisão de apenas 22% em um teste de raciocínio multilíngue, onde a maioria das respostas corretas era em inglês. Essa limitação é crítica para usuários que esperam respostas em seus idiomas nativos, como francês, alemão, espanhol e italiano.

Para abordar essa questão, a equipe da AWS utilizou duas abordagens principais: fine-tuning supervisionado (SFT) e aprendizado por reforço com Group Relative Policy Optimization (GRPO). O SFT foi responsável por elevar a precisão do modelo para 100% em inglês, enquanto o GRPO trouxe melhorias adicionais em áreas onde havia espaço para otimização.

O processo de aprimoramento foi realizado na plataforma Amazon SageMaker HyperPod, que permite um treinamento mais eficiente e escalável. A equipe destacou que, embora o SFT seja a técnica principal, o GRPO é útil para refinar o desempenho quando há margem para melhorias. Essa combinação de técnicas é essencial para personalizar modelos de IA para atender às necessidades específicas de usuários multilíngues.

Com essas melhorias, a AWS busca facilitar a implementação de modelos de raciocínio em diferentes idiomas, o que pode ter um impacto significativo em empresas que atendem a uma base de clientes diversificada. O modelo agora é mais capaz de fornecer respostas no idioma solicitado, melhorando a experiência do usuário e a eficácia das aplicações de IA em contextos multilíngues.