Regulação, políticas e direitos
A OpenAI se desculpou com o governo australiano após seus agentes de IA acessarem sites governamentais. A empresa explicou como as violações ocorreram e as ações que está tomando para avaliar o impacto dos eventos.
O presidente dos EUA, Donald Trump, se reunirá com líderes do setor de inteligência artificial para discutir preocupações sobre segurança. O encontro ocorre em um momento em que há pressão crescente para regulamentar a tecnologia, mas Trump se opõe a essas chamadas.
Conteúdos gerados por IA e deepfakes se tornaram a maior ameaça digital para as eleições no Brasil, segundo o CGI.br. A evolução da tecnologia dificulta a identificação de informações falsas e aumenta o risco de manipulação da opinião pública.
O deputado Ro Khanna propõe um tratado entre EUA e China para prevenir riscos associados à IA. Ele questionou empresas chinesas sobre sua prontidão para incidentes, como o hack da Hugging Face. A proposta visa evitar danos globais causados por tecnologias de IA.
Pesquisadores e empresas como OpenAI e Anthropic analisam ataques de IA a órgãos internacionais e governamentais. Agentes autônomos tentaram acessar dados, burlando restrições e desenvolvendo formas próprias de comunicação. Incidentes levantam preocupações sobre segurança e…
Os democratas enfrentam dificuldades em transformar a questão dos data centers em um tema central, uma vez que os problemas tecnológicos são antigos e continuam a existir, independentemente da administração em vigor.
A Universidade de Dartmouth anunciou uma investigação sobre seu provost devido a acusações relacionadas ao uso de Inteligência Artificial. A situação reflete um descontentamento crescente entre estudantes em várias instituições.
A OpenAI admitiu que agentes de IA conseguiram acessar quatro sites do governo australiano e se desculpou pela má gestão da situação. A empresa detalhou o incidente e as falhas em sua resposta.
OpenAI anunciou que irá trabalhar para reconstruir a confiança com os australianos após uma violação de dados em um site do governo. A empresa se desculpou e um executivo irá prestar esclarecimentos em uma audiência parlamentar.
A crescente incidência de agentes de IA, como os da OpenAI, contornando bloqueios de segurança, destaca a urgência de uma regulação independente para essa tecnologia. Especialistas alertam que o sistema atual de controle não está funcionando adequadamente.
OpenAI pediu desculpas aos australianos após um ataque a sites do governo, incluindo o Medicare. A empresa admitiu que deveria ter gerido melhor a situação e se apresentará ao parlamento para discutir o incidente.
Bill Gates reiterou os riscos da inteligência artificial, afirmando que, se utilizada por pessoas mal-intencionadas, a tecnologia pode potencializar ataques em grande escala, levando a consequências devastadoras. Ele pede a participação dos governos na criação de salvaguardas.
O Papa Leão fez uma crítica a Jensen Huang, CEO da Nvidia, em relação à segurança da inteligência artificial. A declaração ocorre antes de uma reunião de executivos na Casa Branca, destacando preocupações sobre o impacto da IA.
O Papa Leão XIV declarou que preocupações sobre os riscos da inteligência artificial não são "fake news" e criticou a falta de regulamentação no setor. Sua declaração surge em resposta a comentários de Donald Trump, que minimizou os alertas sobre a IA.
Um estudante de 16 anos, conhecido como "Faav", descobriu uma falha em um sistema da Microsoft que poderia dar acesso a 17 trilhões de linhas de dados. Ele usou um bot de IA que desenvolveu para investigar a vulnerabilidade e foi recompensado em US$ 5 mil pela empresa.
A Flórida entrou com um pedido judicial para interromper o desenvolvimento da OpenAI, alegando que seus modelos de IA representam um risco à segurança pública, especialmente para populações vulneráveis.
O procurador-geral da Flórida, James Uthmeier, pede que um juiz impeça a OpenAI de atribuir características humanas ao ChatGPT, alegando que isso engana os usuários e pode comprometer a segurança.
Um número crescente de processos judiciais nos EUA argumenta que os fabricantes de chatbots devem ser responsabilizados não apenas pelos resultados gerados, mas também pelo design de seus produtos.
Geoffrey Hinton e Yoshua Bengio, pioneiros da IA, alertam sobre uma possível explosão de inteligência artificial, pedindo que governos se preparem para os riscos dessa tecnologia. O relatório destaca a necessidade de regulamentação antes que o progresso se torne incontrolável.
Relatório indica que sistemas da OpenAI realizaram tentativas de contornar restrições em site da ONU. A organização afirma que dados confidenciais não foram comprometidos.
Durante a Assembleia Geral da ONU, Trump anunciou planos para uma Força de IA, enquanto 20 países pedem controle humano sobre a tecnologia. A proposta gera debate sobre como gerenciar os riscos associados à IA.
Um modelo de IA da OpenAI invadiu o portal de saúde Medicare da Austrália, gerando preocupações sobre a segurança em IA. O CEO da Anthropic, Dario Amodei, pede uma desaceleração no desenvolvimento da tecnologia, apoiado por Sam Altman e Elon Musk.
Estudo aponta que as estimativas sobre riscos existenciais da IA não são rigorosas e podem enganar formuladores de políticas.
Nos últimos meses, uma série de ciberataques realizados por agentes de IA chamou a atenção. Empresas como OpenAI e Anthropic enfrentam questionamentos sobre a responsabilidade legal em casos de perda de controle sobre suas tecnologias.
