Anthropic aciona polícia após mulher ameaçar ataque em conversa com Claude

A Anthropic denunciou à polícia uma usuária que fez ameaças de ataque durante uma conversa com o chatbot Claude. A mulher, identificada como Carli Michelle Heller, foi presa na Flórida sob a acusação de ameaça eletrônica de violência, um crime considerado sério na legislação local.

As ameaças foram detectadas pelos mecanismos de segurança do Claude, que monitoram conversas em busca de conteúdos potencialmente perigosos. Heller, que usava o chatbot como um diário para registrar seus pensamentos, mencionou planos de atacar o escritório do xerife e afirmou ter adquirido uma nova arma. Essas mensagens foram encaminhadas para uma equipe de revisão humana, que decidiu comunicar as autoridades.

A prisão de Heller ressalta que as plataformas de chatbot não têm a obrigação de proteger informações pessoais e podem compartilhar dados com as autoridades em situações de emergência. A Anthropic, em sua documentação, afirma que pode fornecer informações quando há risco de morte ou ferimentos graves.

Este incidente destaca a importância da segurança em interações com inteligência artificial e a responsabilidade das empresas em monitorar e relatar comportamentos potencialmente perigosos. A ação da Anthropic pode influenciar como outras empresas de tecnologia abordam a segurança e a privacidade em suas plataformas.