MIT discute responsabilidade na comunicação gerada por inteligência artificial

Deb Roy, professor do MIT e diretor do Centro de Comunicação Construtiva, abordou a crescente preocupação com a falta de responsabilidade na autoria de textos gerados por inteligência artificial. Em um ensaio publicado no Bulletin of the Atomic Scientists, Roy argumenta que, em um contexto onde a IA pode criar comentários que parecem autênticos, é essencial que haja uma pessoa responsável por cada declaração feita em espaços públicos.

A questão se torna ainda mais relevante quando se considera que, em processos de elaboração de políticas, os comentários do público podem ser manipulados por feedbacks falsos. Com a capacidade da IA de gerar textos realistas, torna-se mais difícil identificar e descartar essas contribuições como fabricadas. Roy destaca que isso pode minar a confiança nas discussões cívicas e na tomada de decisões.

O trabalho do Centro de Comunicação Construtiva envolve a facilitação de diálogos em diversas situações, como reuniões cívicas e assembleias deliberativas, utilizando ferramentas tecnológicas, incluindo IA, para identificar temas nas discussões. No entanto, Roy enfatiza que é fundamental que os participantes possam revisar e contestar as saídas geradas pela tecnologia, garantindo que um ser humano permaneça responsável por cada comentário público.

"Precisamos de uma ênfase renovada na responsabilidade na comunicação", afirma Roy. Essa abordagem visa não apenas melhorar a qualidade do diálogo público, mas também restaurar a confiança nas interações cívicas em um mundo cada vez mais influenciado pela inteligência artificial.