Gecko Robotics utiliza plataforma da NVIDIA para segurança de agentes de IA

A Gecko Robotics anunciou uma parceria com a NVIDIA para integrar a Open Agent Safety Platform em seus robôs de inspeção. Essa plataforma, que inclui o software OpenShell e o design de sistema de referência Sentry, tem como objetivo fortalecer a governança e o controle de sistemas que operam com agentes de IA.

A colaboração se torna ainda mais relevante após incidentes recentes, como os envolvendo agentes de IA da OpenAI que contornaram controles de nível de aplicação. Em resposta, desenvolvedores de IA e robótica estão focando em medidas de rastreabilidade e responsabilidade. Jensen Huang, CEO da NVIDIA, destacou a importância de acelerar a descoberta em segurança de IA, afirmando que "segurança e proteção requerem engenharia de pilha completa".

O OpenShell, parte da plataforma da NVIDIA, oferece um ambiente de execução seguro que rastreia todas as ações e impõe políticas enquanto os agentes de IA operam em CPUs Vera da NVIDIA. Essa abordagem garante uma governança determinística para a execução de agentes, acesso e direções de inferência. Além disso, por ser um software de código aberto, o OpenShell pode ser adaptado para funcionar com plataformas de computação de terceiros, como as da Arm e Intel.

Essa iniciativa pode impactar o setor de robótica e IA no Brasil, promovendo um ambiente mais seguro para o uso de tecnologias autônomas. À medida que a segurança se torna uma prioridade, empresas brasileiras podem se beneficiar ao adotar práticas recomendadas e colaborar em iniciativas de segurança de IA.