Para ter uma ideia de onde a inteligência artificial está caminhando nas campanhas eleitorais, olhe para a Índia, a maior democracia do mundo, cujas eleições começam nesta sexta-feira (19).
Uma versão gerada por IA do primeiro-ministro, Narendra Modi, que foi compartilhada no WhatsApp, mostra as possibilidades de alcance hiperpersonalizado em um país com quase 1 bilhão de eleitores. No vídeo —um clipe de demonstração cuja fonte não está clara—, o avatar de Modi se dirige diretamente a uma série de eleitores, pelo nome.
No entanto, o material não é perfeito. Modi parece usar dois pares de óculos diferentes, e algumas partes do vídeo estão pixelizadas.
Na base, trabalhadores do partido de Modi estão enviando vídeos pelo WhatsApp nos quais seus próprios avatares de IA entregam mensagens pessoais a eleitores específicos sobre os benefícios do governo que receberam e pedem seu voto.
Essas mensagens em vídeo podem ser geradas automaticamente no idioma que o eleitor fala, dentre dezenas de idiomas da Índia. O mesmo vale para mensagens de voz por chatbots alimentados por IA, que ligam para eleitores em nome de líderes políticos e pedem seu apoio.
Esse tipo de alcance requer uma fração do tempo e do dinheiro gastos em campanhas tradicionais e tem o potencial de se tornar um instrumento essencial em eleições. Mas, à medida que a tecnologia avança na cena política, há poucos limites para evitar o uso indevido.
Chatbots e vídeos personalizados podem parecer mais ou menos inofensivos. No entanto, especialistas se preocupam que os eleitores terão cada vez mais dificuldade em distinguir entre mensagens reais e sintéticas.
“Será o Velho Oeste em um espaço de IA não regulamentado este ano”, disse Prateek Waghre, diretor executivo da Internet Freedom Foundation, um grupo de direitos digitais sediado em Nova Déli. A tecnologia, segundo ele, está entrando em um cenário midiático já poluído com desinformação.
Ao redor do mundo, as eleições se tornaram um campo de testes para a expansão da IA. As ferramentas foram usadas para transformar um candidato presidencial argentino em Indiana Jones e Caça-Fantasmas. Durante as primárias de New Hampshire, os eleitores receberam ligações de robôs que os pediam para não votar, em uma voz que provavelmente foi gerada artificialmente para se parecer com a do presidente Joe Biden.
Na Índia, o Partido Bharatiya Janata (BJP), de Modi, e o partido de oposição Congresso Nacional Indiano se acusaram mutuamente de espalhar conteúdo deepfake relacionado às eleições online.
Um posto avançado nessa nova fronteira indiana está no estado desértico ocidental do Rajastão. No térreo de um prédio residencial em uma rua empoeirada, um jovem de 31 anos, Divyendra Singh Jadoun, opera uma startup de IA, chamada The Indian Deepfaker.
Sua equipe de nove pessoas tem feito comerciais com avatares gerados por IA de atores e atrizes de Bollywood. Mas, neste ano, políticos começaram a lhe pedir para fazer por eles o que ele havia feito por celebridades. Das 200 solicitações, Jadoun disse que aceitou 14.
Entre aqueles que estão recebendo o tratamento de IA está Shakti Singh Rathore, um membro de 33 anos do BJP. Seu trabalho nesta eleição é informar o maior número possível de pessoas sobre os programas e políticas de Modi. Então, ele decidiu criar uma réplica de si mesmo.
“A IA é maravilhosa e o caminho a seguir”, disse Rathore enquanto se acomodava em frente a uma câmera de vídeo no escritório do The Indian Deepfaker, preparando-e para se tornar digitalmente encarnado. “Como mais eu poderia alcançar os beneficiários dos programas de Modi em números tão grandes e em tão curto período de tempo?”
Enquanto Rathore ajustava um lenço açafrão com o logotipo do partido que pendia em seu pescoço, Jadoun o instruiu: “Apenas olhe para a câmera e fale como se a pessoa estivesse sentada bem na sua frente.”
Com cerca de cinco minutos de material, incluindo uma gravação de áudio e fotos de perfil, Jadoun começou a trabalhar. Ele disse que usa sistemas de IA de código aberto e os aprimora com seu próprio código.
Primeiro, o rosto de Rathore foi isolado de cada quadro da gravação.
Em seguida, os dados foram coletados de suas características faciais, incluindo o tamanho de seu rosto e lábios, bem como seu olhar.
Jadoun disse que o conjunto de dados foi então alimentado em modelos de IA que aprendem a prever padrões faciais.
“Você precisa continuar rodando os dados no programa e ajustando o rosto até obter o melhor rosto possível”, disse ele.
Um “algoritmo de clonagem” também analisou a gravação de áudio, aprendendo a cadência e entonações da voz. Jadoun disse que muitas vezes são necessárias de seis a oito horas de ajustes para aperfeiçoar o rosto e fazer com que os lábios sincronizem com as palavras. O restante é em grande parte automatizado.
Em uma demonstração, levou cerca de quatro minutos para criar em torno de 20 vídeos de saudação personalizados.
Jadoun disse que sua equipe poderia produzir até 10 mil vídeos por dia. Para trabalhos maiores com prazo apertado, eles alugam unidades de processamento gráfico.
A IA generativa também pode remover barreiras linguísticas, o que é especialmente útil em um país linguisticamente diverso. O avatar de Rathore pode ser programado para falar idiomas regionais e alcançar os cantos mais remotos da Índia. Os partidos políticos não estão apenas enviando mensagens de vídeo aos eleitores, mas também usando vozes clonadas para ligar diretamente para as pessoas, tudo isso impulsionado por chatbots como o ChatGPT.
No passado, quando um representante do partido ligava para os eleitores, eles desligavam, disse Rathore. “Mas agora, quando um líder local pronuncia o nome de um eleitor, isso imediatamente chama a atenção deles.”
Durante a conversa, o chatbot pergunta sobre programas do governo local que oferecem eletricidade gratuita ou financiamento para startups. Jadoun disse que as chamadas eram gravadas e transcritas para controle de qualidade e treinamento de IA.
Rathore disse que gastou cerca de US$ 24 mil de seu próprio bolso para alcançar cerca de 1,2 milhão de pessoas por meio de suas mensagens de vídeo e ligações telefônicas e para receber informações sobre quem não atendeu. Ele chamou isso de investimento em seu futuro com o BJP.
Nikhil Pahwa, editor do MediaNama, que cobre mídia digital na Índia, disse que as mensagens personalizadas podem ser particularmente poderosas entre os indianos.
“A Índia é um país onde as pessoas adoram tirar fotos com imitadores de celebridades”, disse. “Então, se eles recebessem uma ligação, digamos, do primeiro-ministro, e ele falasse como se os conhecesse, onde moram e quais são seus problemas, eles realmente ficariam entusiasmados com isso.”
