Executivos de IA pedem pausa no desenvolvimento de LLMs devido a riscos crescentes

Dario Amodei, CEO da Anthropic, publicou um ensaio no qual pede uma pausa no avanço dos modelos de linguagem de grande escala (LLMs). Ele aponta preocupações sobre os riscos associados a essa tecnologia, incluindo seu uso em ciberataques, bioterrorismo e potenciais danos à economia. A declaração de Amodei foi apoiada por líderes de outras grandes empresas de inteligência artificial, como Sam Altman da OpenAI, Demis Hassabis da Google DeepMind e Elon Musk da SpaceXAI.

A situação é notável, considerando que, há poucos meses, Musk e Altman estavam envolvidos em um processo judicial que questionava a confiabilidade de Altman na gestão de tecnologias perigosas. A fundação da Anthropic em 2021 foi motivada pela crença de Amodei de que Altman não levava a sério os riscos associados à tecnologia que estavam desenvolvendo. Desde então, as duas empresas têm competido intensamente no setor.

Agora, os principais laboratórios de IA parecem compartilhar uma preocupação comum: a última geração de LLMs apresenta riscos significativos e é necessário encontrar soluções para lidar com isso. No entanto, a mensagem pública dessas empresas tem tomado um tom mais pessimista, levantando questões sobre o que exatamente significaria uma desaceleração no desenvolvimento e como isso poderia ser implementado.

As empresas de IA, que visam IPOs trilionários, precisam equilibrar a necessidade de tranquilizar investidores sobre sua responsabilidade enquanto reconhecem o poder das tecnologias que criaram. A chamada de Amodei para uma pausa no desenvolvimento reflete uma crescente conscientização sobre os perigos que a IA pode representar, tanto para a sociedade quanto para a economia.