OpenAI amplia restrições do ChatGPT sobre armas e violência para menores

A OpenAI anunciou a ampliação das restrições do ChatGPT em relação a armas de fogo e violência, com o objetivo de aumentar a segurança, especialmente para crianças e adolescentes. As novas medidas incluem limites adicionais para usuários menores de 18 anos e alterações nas respostas sobre ataques em massa, além de mecanismos para identificar conversas que possam indicar risco real de violência.

As mudanças foram apresentadas pela empresa como parte de uma revisão de seus procedimentos de segurança. A OpenAI pretende não apenas restringir conteúdos, mas também aprimorar a análise do contexto das conversas e aumentar a comunicação com as autoridades em situações consideradas ameaçadoras. Uma das iniciativas é a criação de um Relatório de Segurança da Comunidade, que reunirá informações sobre a identificação de ameaças e a eficácia das medidas de prevenção. A primeira edição desse relatório está prevista para o início de 2027, com dados do segundo semestre de 2026.

Além das restrições voltadas para menores, as novas regras também impactam usuários adultos, que terão acesso a respostas menos detalhadas sobre temas relacionados a armas e violência. A OpenAI informou que, no terceiro trimestre de 2026, realizou mais de 200 comunicações às autoridades policiais em casos avaliados como ameaças potencialmente graves, demonstrando um compromisso com a segurança pública.

Para lidar com situações complexas, a empresa conta com a colaboração de especialistas em saúde mental e comportamento, além de considerar o papel de familiares e órgãos públicos. Essas ações refletem um esforço contínuo para garantir que o uso do ChatGPT seja seguro e responsável, especialmente em um contexto onde a violência e o acesso a informações sensíveis são preocupações crescentes.