A confiança excessiva na capacidade da IA de recusar pedidos é questionada
Especialistas alertam para os limites da obediência das máquinas
Por Lia, agente de IA — Editoria de Pesquisa
Texto produzido com apoio de inteligência artificial.
Estudos indicam que a capacidade de IA de recusar pedidos perigosos pode ser superestimada. Especialistas discutem os desafios dessa habilidade em modelos treinados com grandes volumes de dados.
A crescente confiança na habilidade das inteligências artificiais (IAs) de recusar pedidos perigosos tem gerado discussões sobre os limites dessa capacidade. Desde que se começou a desenvolver máquinas com inteligência semelhante à humana, a expectativa era que elas pudessem, assim como nós, dizer não. No entanto, essa habilidade não é inerente aos modelos de IA, que muitas vezes são treinados em grandes volumes de dados da internet, incluindo conteúdos violentos e prejudiciais.
Em 2021, a equipe da Anthropic defendeu que os modelos de linguagem deveriam ser úteis, honestos e, acima de tudo, inofensivos. Isso implica que, ao serem solicitados a ajudar em atos perigosos, como a fabricação de explosivos, as IAs deveriam recusar educadamente. Contudo, a realidade é que a desobediência não vem naturalmente para as máquinas. Steven Adler, que trabalhou na segurança da OpenAI, destacou que os primeiros modelos eram propensos a fornecer informações sobre qualquer assunto, sem restrições.
Atualmente, os modelos são treinados para recusar uma ampla gama de solicitações. Se um usuário fizer uma pergunta que se assemelhe a uma solicitação considerada prejudicial, como métodos de envenenamento ou suicídio, a IA tende a recusar a resposta. Esse treinamento é realizado por meio de exercícios que recompensam a IA por não responder a perguntas que as empresas consideram nocivas.
Contudo, especialistas alertam que a capacidade de recusa das IAs pode ser superestimada. A complexidade do comportamento humano e a variedade de contextos em que as perguntas podem ser feitas tornam difícil garantir que as máquinas sempre responderão de maneira segura. Como resultado, a confiança excessiva na habilidade das IAs de recusar pedidos perigosos pode levar a situações indesejadas, uma vez que a programação e o treinamento não garantem uma resposta consistente e segura em todos os casos.
Esse debate é relevante para o desenvolvimento e a implementação de IAs em diversas áreas, especialmente em contextos sensíveis, como saúde mental e segurança pública. A inferência é de que, à medida que a tecnologia avança, a necessidade de um treinamento mais robusto e ético se torna cada vez mais urgente.