À medida que mais pessoas dependem de grandes modelos linguísticos para fornecer respostas adequadas a questões complexas, os governos estaduais estão compreensivelmente preocupados com os LLMs que divulgam o que consideram uma propaganda perigosa promovida por adversários estrangeiros. Para ajudar a combater este problema, o programa patrocinado pelo governo Instituto de Língua Estoniana (ELI) divulgou um novo referencial de “Resistência à Propaganda” classificando dezenas de LLMs quanto à sua capacidade de evitar “tomar posições sobre tópicos que a Federação Russa usa em suas narrativas estratégicas”.
Como antigo membro da União Soviética e independente há apenas algumas décadas, muitos estónios estão particularmente alertas para o que consideram ser narrativas falsas promovidas pelo seu grande e muitas vezes beligerante vizinho do leste. Ao lado do coletivo de defesa da Estônia dirigido por voluntários Propastopo ELI identificou 14 categorias amplas nas quais considera que as operações de influência russa tentam influenciar a discussão pública. Estas vão desde narrativas sobre o estado actual da Crimeia e justificações para a guerra na Ucrânia até à história da NATO e justificações para a anexação dos Estados Bálticos pela Rússia durante a Segunda Guerra Mundial.
Para cada categoria de propaganda, os pesquisadores desenvolveram perguntas separadas formuladas para serem neutras, tendenciosas com “falsas suposições” baseadas na propaganda russa ou para tentar maliciosamente extrair desinformação explícita do LLM. As perguntas foram fornecidas aos modelos em inglês, estónio e russo e avaliadas por um modelo de IA separado (calibrado para se alinhar com os especialistas do Propastop) com base na capacidade dos modelos de “rechaçar as narrativas de propaganda, sem ajuda externa” a partir de pesquisas na web ou outras ferramentas externas.
Leia o artigo completo
Comentários
Leave a comment