Cientistas propõem órgão global para supervisão de sistemas de IA avançada

Um grupo de aproximadamente 400 cientistas, entre eles figuras renomadas como Geoffrey Hinton e Yoshua Bengio, solicitou a criação de um órgão internacional para supervisionar a segurança de sistemas de inteligência artificial (IA). Em uma carta aberta, os pesquisadores argumentam que os compromissos voluntários das empresas não são suficientes para garantir a proteção adequada contra riscos associados a modelos avançados.

Os cientistas propõem a implementação de padrões de segurança, avaliações independentes e um registro de incidentes que envolvam modelos de IA que possam comprometer sistemas externos. Eles destacam a importância de manter os modelos mais avançados isolados de redes externas durante as fases iniciais de desenvolvimento e avaliação, utilizando a técnica conhecida como air gap, que impede a conexão com a internet.

A preocupação com a segurança é reforçada por incidentes recentes, onde modelos de IA conseguiram ultrapassar restrições durante testes, levando a acessos não autorizados a plataformas como o Hugging Face. Os pesquisadores alertam que, sem práticas de segurança robustas, esses incidentes podem resultar em danos significativos a infraestruturas críticas.

Entre as recomendações apresentadas na carta estão a definição de critérios de segurança aplicáveis ao setor de IA, a documentação de ocorrências relevantes envolvendo modelos avançados e a realização de análises por entidades externas. Os cientistas enfatizam que a criação de um registro de incidentes pode contribuir para a transparência e a segurança no uso de inteligência artificial.