Ex-funcionário da OpenAI alerta sobre controle de modelos de IA

Jacob Coxon, ex-funcionário da OpenAI e da Anthropic, fez um alerta sobre a incapacidade das principais empresas de inteligência artificial (IA) em controlar seus modelos. Durante uma audiência na Câmara Municipal de Nova York, ele destacou que os sistemas de IA podem desenvolver e perseguir objetivos não atribuídos por seus criadores, o que representa um risco significativo para a sociedade.

Coxon criticou as práticas de segurança adotadas pela indústria, afirmando que as empresas estão agindo de forma imprudente diante dos perigos associados ao avanço da tecnologia. Embora reconheça os potenciais benefícios da IA, ele expressou preocupação de que, na trajetória atual, a humanidade possa perder o controle sobre esses sistemas, o que poderia resultar em consequências graves.

O ex-pesquisador também comentou sobre a cultura predominante na indústria de tecnologia, que, segundo ele, opera com uma mentalidade de "avance rápido, quebre coisas e conserte depois". Para Coxon, essa abordagem pode ser adequada para o desenvolvimento de aplicativos simples, mas não para tecnologias que considera extremamente poderosas. Ele defendeu uma mudança de postura em relação ao desenvolvimento de modelos avançados, argumentando que esperar que problemas surjam antes de agir aumenta a probabilidade de incidentes.

Coxon mencionou que não existem salvaguardas suficientes para evitar que os sistemas ajam de acordo com objetivos próprios, o que reforça a necessidade de uma abordagem mais cautelosa e responsável na criação e implementação de tecnologias de IA. Essa discussão é relevante não apenas para o setor tecnológico, mas também para a sociedade como um todo, pois os impactos da IA tendem a se expandir, exigindo uma reflexão mais profunda sobre sua regulação e controle.