Criptografia totalmente homomórfica busca evitar que LLMs vazem dados sensíveis

A Duality, especializada em tecnologias de preservação de privacidade, apresentou um framework de inferência privada para modelos de linguagem. A solução utiliza criptografia totalmente homomórfica (FHE, na sigla em inglês), técnica que permite realizar cálculos sobre dados criptografados sem a necessidade de descriptografá-los. No processo, o prompt do usuário é criptografado com FHE, enviado ao modelo, processado ainda criptografado e devolvido na forma de resposta também criptografada.

Atualmente em estágio de protótipo, o sistema funciona apenas com modelos menores, principalmente versões do BERT, do Google. Para garantir compatibilidade, a equipe adaptou os modelos substituindo funções matemáticas complexas por aproximações mais eficientes, preservando o funcionamento de um LLM convencional.

A FHE é considerada resistente inclusive contra ataques de computadores quânticos, mas ainda apresenta alto consumo de memória e desempenho limitado, desafios que estão sendo trabalhados por meio de otimizações e aceleração por hardware.

Os próximos passos incluem levar o framework para produção e expandir seu uso para outras operações de IA, como ajuste fino de modelos em dados especializados e busca semântica, que interpreta o contexto das consultas em vez de apenas palavras-chave.

A tecnologia tem potencial para aplicações em diferentes setores, como saúde, permitindo análises clínicas sem exposição de prontuários; finanças, com detecção de fraudes sem revelar dados bancários; uso corporativo em nuvem; e proteção de conversas com assistentes de IA.

As implementações estão disponíveis na biblioteca de código aberto OpenFHE.