OpenAI lança modelos de código aberto voltados à segurança em IA

A OpenAI anunciou o lançamento dos modelos gpt-oss-safeguard-120b e gpt-oss-safeguard-20b, duas versões abertas de raciocínio projetadas para tarefas de classificação de segurança. Esses modelos são adaptações dos gpt-oss lançados anteriormente e estão disponíveis sob a licença permissiva Apache 2.0.

Voltados para dar mais autonomia aos desenvolvedores, os modelos gpt-oss-safeguard permitem definir políticas de segurança personalizadas aplicadas durante a inferência — o momento em que a IA gera respostas a partir de um prompt. Com isso, é possível ajustar e revisar essas políticas a qualquer momento, sem a necessidade de retreinar o modelo, garantindo maior flexibilidade e controle sobre o comportamento da IA.

Os modelos são capazes de classificar mensagens de usuários, respostas de chat e até conversas completas conforme as diretrizes definidas.

A OpenAI observa, contudo, que o gpt-oss-safeguard tende a ser mais lento e exigir maior poder computacional, o que pode dificultar sua execução em aplicações que lidam com grandes volumes de conteúdo.

Ambos estão disponíveis para download na plataforma Hugging Face.