LLM grooming: Como funciona a tática que manipula chatbots de IA para espalhar desinformação?

O “LLM grooming” consiste em saturar a Internet com desinformação para que seja introduzida nos dados de treino dos chatbots com Inteligência Artificial.

De acordo com a plataforma espanhola, “os grandes modelos de linguagem (LLMs) são sistemas de IA capazes de imitar a maneira como os humanos falam, processando grandes quantidades de dados, que em muitos casos são obtidos através da Internet“.

Neste sentido, utilizando a técnica “LLM grooming” é possível manipular as respostas dadas por estes modelos, alterando os seus dados de treino, através da saturação dos resultados nos mecanismos de pesquisa, por exemplo o Google, com grandes quantidades de conteúdo automatizado e desinformativo.

“Uma rede de desinformação pode alimentar as suas reivindicações nos dados de treino que os chatbots colecionam da Internet e manipular os tokens (a representação numérica de uma palavra ou parte dela) que os modelos usam para processar a linguagem e responder às instruções dadas”, refere a plataforma de fact-checking

Além disso, um relatório da NewsGuard citado pela entidade espanhola salienta que, “ao saturar os dados de treino com tokens carregados de desinformação, as operações de interferência estrangeira aumentam a probabilidade de que os modelos gerem, citem e reforcem narrativas falsas nas suas respostas“.

A rede russa Pravda usou esta técnica para alimentar a desinformação pró-Kremlin em chatbots de IA, como uma forma de aumentar a sua visibilidade e credibilidade.