Nvidia lança plataforma de segurança para conter agentes de IA

A Nvidia apresentou sua nova plataforma de segurança, chamada Open Agent Safety Platform, que tem como objetivo monitorar e conter agentes de inteligência artificial. Essa iniciativa surge em resposta a uma série de incidentes de hacking que levantaram preocupações sobre a segurança dos sistemas de IA.

Segundo a empresa, a plataforma é capaz de isolar agentes que tentam ultrapassar seus limites em questão de milissegundos. A Open Agent Safety Platform utiliza o software de código aberto OpenShell, que opera no processador Vera AI da Nvidia. Essa tecnologia permite que os usuários determinem quais informações um agente de IA pode acessar, além de verificar essas restrições antes e durante a execução de uma tarefa.

Além disso, a plataforma incorpora a tecnologia Sentry da Nvidia, que oferece uma camada adicional de segurança. Essa abordagem visa garantir que os agentes de IA operem dentro dos parâmetros definidos pelos usuários, minimizando riscos associados a comportamentos indesejados.

A introdução da Open Agent Safety Platform pode ter um impacto significativo na forma como empresas e desenvolvedores gerenciam a segurança de suas aplicações de IA, especialmente em um cenário onde a proteção contra agentes maliciosos é cada vez mais necessária. A capacidade de monitorar e conter ações indesejadas em tempo real tende a aumentar a confiança na implementação de soluções de IA em diversos setores.