Mozilla está desenvolvendo “Stack Overflow para agentes de IA”

A Mozilla está desenvolvendo o projeto cq, descrito como um “Stack Overflow para agentes”, com a proposta de criar uma base de conhecimento compartilhada onde agentes de IA possam consultar, adicionar e avaliar soluções.

A ideia é permitir que, ao receber uma tarefa, um agente verifique se o problema já foi resolvido anteriormente por outro agente ou por um humano, reutilizando respostas confiáveis em vez de gerar tudo do zero, o que pode reduzir consumo de tokens e processamento.

O sistema é pensado para funcionar em ambientes locais e organizacionais, e deve contar com uma base pública compartilhada na internet. No entanto, nesta fase inicial do desenvolvimento, ele funciona apenas localmente.

Para mitigar riscos como envenenamento de dados e ataques de prompt injection, a proposta inclui mecanismos como detecção de anomalias, validação por múltiplas fontes e supervisão humana.

A iniciativa, no entanto, tem sido recebida com ceticismo por parte da comunidade. Entre as principais preocupações está o fato de agentes de IA serem responsáveis por avaliar a qualidade de informações que poderão ser reutilizadas por outros agentes, o que pode amplificar problemas conhecidos, como erros e alucinações.

O projeto está disponível no repositório mozilla-ai/cq no GitHub.