O desafio da segurança em modelos de linguagem
Modelos de linguagem podem ser expostos a prompts maliciosos, tentativas de manipulação, conteúdos ofensivos ou instruções criadas para contornar mecanismos de segurança. E para reduzir esses riscos, sistemas modernos de IA utilizam componentes conhecidos como guardrails.
O problema é que muitos desses guardrails foram treinados majoritariamente em inglês, criando uma lacuna importante quando são aplicados ao português brasileiro, um idioma marcado por gírias regionais, ironias, expressões informais, abreviações e padrões típicos das redes sociais.
Nesses casos, conteúdos inofensivos podem ser classificados como perigosos, enquanto comandos realmente nocivos podem passar despercebidos. É nesse ponto que o Curupira se destaca.
Um guardião inspirado na cultura brasileira
O nome do modelo faz referência ao Curupira, figura do folclore brasileiro conhecida por proteger as florestas e despistar aqueles que tentam causar dano. A escolha traduz o papel do modelo, que atua como uma camada de proteção para sistemas de IA em português, identificando e neutralizando entradas prejudiciais antes que elas comprometam a segurança da aplicação.
O nome reforça uma premissa central do SoberanIA, que é a de desenvolver tecnologia avançada a partir da realidade brasileira, com atenção à nossa língua, aos nossos contextos de uso e aos desafios concretos enfrentados por instituições públicas e privadas no país.
A metodologia por trás do Curupira
O estudo adota uma abordagem orientada por dados, estruturada em três etapas: adaptação taxonômica, geração de dados sintéticos e fine-tuning supervisionado.
Na primeira etapa, os pesquisadores partiram de categorias internacionais de segurança já consolidadas, como discurso de ódio, assédio, conteúdo sexualmente explícito e conteúdo perigoso. Essas categorias foram adaptadas ao contexto do português brasileiro, incorporando expressões culturais, gírias e padrões adversariais comuns em ambientes lusófonos.
Na segunda etapa, foi desenvolvido um pipeline de geração de dados sintéticos inspirado em técnicas no estado da arte para red-team. O processo permitiu criar exemplos seguros e inseguros em português, com variedade sintática e alta fidelidade linguística. O resultado foi um conjunto de 17.513 exemplos rotulados, equilibrando pares de entradas seguras e inseguras.
Na terceira etapa, os modelos foram ajustados por meio de Supervised Fine-Tuning, com o objetivo de melhorar sua capacidade de classificação de segurança em português sem comprometer o raciocínio de segurança originalmente aprendido.
Resultados que comprovam a eficiência da adaptação
A avaliação do Curupira foi conduzida com diferentes benchmarks públicos em português brasileiro, incluindo bases com linguagem tóxica, ofensiva e informal. Também foi utilizado um benchmark em inglês para verificar se o ajuste em português causaria perda de capacidade em outro idioma.
Os resultados mostram ganhos consistentes em todas as escalas avaliadas. O Curupira-7B alcançou o melhor desempenho geral, seguido de perto pelo Curupira-3B. Já o Curupira-0.6B apresentou ganhos expressivos mesmo sendo um modelo compacto.
Esse resultado indica um avanço importante: modelos menores, quando bem ajustados com dados de qualidade, podem alcançar desempenho competitivo em tarefas de segurança. Na prática, isso abre caminho para guardrails mais eficientes, rápidos e viáveis para diferentes ambientes tecnológicos.
Por que isso importa para o Brasil
A segurança em IA não pode depender apenas de modelos treinados para outras línguas e culturas. Para que aplicações baseadas em modelos de linguagem sejam utilizadas com responsabilidade no Brasil, especialmente em ambientes institucionais, é fundamental que os mecanismos de proteção compreendam o português brasileiro em sua complexidade real.
Isso é ainda mais relevante para o setor público, onde sistemas de IA podem apoiar atendimento ao cidadão, análise de documentos, gestão administrativa, educação e outros serviços sensíveis. Nesses contextos, falhas de classificação podem gerar riscos concretos: bloquear interações legítimas, deixar passar conteúdos nocivos ou comprometer a confiabilidade da solução.
O Curupira responde a esse desafio com uma abordagem científica, localmente adaptada e alinhada à visão de soberania tecnológica.
Segurança também é soberania
O Curupira mostra que soberania em inteligência artificial não se resume apenas à criação de modelos capazes de compreender e gerar texto em português, mas também depende de mecanismos de proteção preparados para reconhecer riscos no nosso idioma, na nossa cultura e nos nossos contextos de uso.
Ao desenvolver um guardrail especializado para português brasileiro, o SoberanIA contribui para elevar o padrão de segurança da IA nacional e fortalece a base científica necessária para sua adoção responsável.
