Risco Existencial da IA: Probabilidades São Pouco Confiáveis para Informar Políticas

Um novo estudo discute a confiabilidade das estimativas sobre os riscos existenciais associados à Inteligência Artificial (IA), afirmando que essas probabilidades são, na verdade, pouco rigorosas e podem levar a interpretações errôneas. Segundo os autores, a retórica em torno do risco existencial da IA, frequentemente referida como p(doom), tem influenciado significativamente o discurso público e as políticas, mas as estimativas atuais não são mais precisas do que as de anos anteriores.

Os pesquisadores destacam que, embora a tentativa de quantificar esses riscos seja uma prática comum e geralmente benéfica, as previsões específicas sobre os riscos existenciais da IA carecem de modelos validados. Isso significa que, ao contrário de outras previsões quantitativas, as estimativas sobre p(doom) não se baseiam em métodos rigorosos, o que pode resultar em desinformação para os formuladores de políticas.

O estudo sugere que a cultura em torno do p(doom) pode ser contraproducente, pois tende a centralizar a discussão em torno do risco existencial e da superinteligência, em detrimento de uma abordagem mais ampla e equilibrada sobre a segurança da IA. Os autores esperam que essa análise ajude a conscientizar os responsáveis pela formulação de políticas sobre a natureza das probabilidades que estão considerando, incentivando uma discussão mais fundamentada sobre a segurança da IA.

Com a crescente atenção sobre os riscos da IA, é crucial que as políticas públicas sejam baseadas em informações rigorosas e bem fundamentadas. A falta de modelos confiáveis para quantificar esses riscos pode levar a decisões inadequadas que impactam o desenvolvimento e a regulamentação da tecnologia no futuro.