Pesquisador da Anthropic alerta sobre riscos da IA e possíveis cenários de destruição

Jacob Coxon, um pesquisador de inteligência artificial, deixou a Anthropic após apenas quatro meses, levantando preocupações sobre os riscos que a IA pode representar para a humanidade. Em uma declaração na plataforma X, ele afirmou que os desenvolvedores de IA acreditam que a tecnologia pode causar danos significativos até o final da década.

Evan Hubinger, um membro sênior da equipe da Anthropic, concordou com Coxon, acrescentando que acredita que a probabilidade de a IA causar um evento catastrófico na próxima década é superior a 10%. Essas afirmações geraram um intenso debate sobre a necessidade de desacelerar a pesquisa em IA e aumentar o controle humano sobre a tecnologia.

Os pesquisadores discutem diversos cenários sobre como a IA poderia ameaçar a humanidade, muitos dos quais envolvem a ideia de uma IA "superinteligente", que seria mais capaz do que os humanos. Embora a maioria desses cenários seja considerada improvável no momento, a crescente capacidade das IAs em resolver problemas complexos levanta questões sobre o futuro da tecnologia.

Coxon e Hubinger destacam que, embora a superinteligência ainda esteja distante, os avanços recentes em IA, como a resolução de problemas matemáticos desafiadores, indicam que a tecnologia está se aproximando de capacidades que podem ser preocupantes. "Como podemos imaginar o que uma superinteligência faria?", questionam os especialistas, ressaltando a dificuldade de prever ações de uma IA que superaria a inteligência humana.