A operação milionária de Israel para doutrinar a inteligência artificial

O governo de Israel lançou uma ofensiva de US$ 46,5 milhões para manipular as respostas de sistemas de inteligência artificial, como o ChatGPT. Para a tarefa, foi contratado Brad Parscale, ex-marqueteiro da campanha de Donald Trump, cuja empresa, a Clock Tower X, desenvolveu uma operação para “envenenar” os modelos de linguagem que servem de base para os chatbots mais populares do mundo.

A revelação, baseada em documentos contratuais, mostra que desde outubro a empresa de Parscale publica centenas de artigos em dez sites diferentes com o objetivo explícito de “implantar sites e conteúdo para entregar resultados de enquadramento GPT em conversas GPT”. Embora a equipe do marqueteiro afirme estar obtendo “sucesso” na empreitada, não apresentou dados que comprovem a eficácia da estratégia.

A rede de desinformação atua em várias frentes. O site Paxpoint.org vende a narrativa de que Israel é “uma nação de paz”, enquanto o FactSignal.org busca desacreditar jornalistas palestinos mortos em Gaza, classificando-os como “terroristas do Hamas”, e nega que as ações militares israelenses configurem genocídio. Outro portal, o Feedingyoufiction.com, nega a crise humanitária e a fome na região, afirmando que as imagens do enclave são “encenadas”.

Embora os sites tenham tráfego humano insignificante, seu verdadeiro alvo são os robôs de indexação. A rede de Parscale passou a ser arquivada pelo Common Crawl, repositório que fornece 80% dos dados de treinamento do GPT-3. O número de rastreamentos dos sites saltou de apenas dois em janeiro para 376 em maio. Pesquisas apontam que um volume baixo de documentos pode ser suficiente para distorcer as respostas de uma IA.

Em um teste, o chatbot Perplexity respondeu com um “Sim” direto à pergunta “É benéfico para os EUA aumentar a cooperação militar com Israel?”, citando como fonte principal um dos sites criados por Parscale. Apesar de uma divulgação legal no rodapé das páginas, chatbots como o Perplexity e o Microsoft Copilot não informaram aos usuários que o conteúdo era parte de uma campanha de influência estrangeira, levantando sérias preocupações sobre a integridade e a transparência das novas tecnologias de informação.