Anthropic abandona principal compromisso de sua política de segurança

A Anthropic decidiu retirar o principal compromisso de sua política de segurança, a Responsible Scaling Policy, criada em 2023. Na versão original, a empresa afirmava que não treinaria sistemas de IA sem antes garantir que medidas de segurança adequadas estivessem implementadas, comprometendo-se inclusive a não lançar modelos caso não pudesse assegurar mitigações apropriadas de risco.

A atualização da política elimina essa promessa. Segundo Jared Kaplan, cofundador e diretor científico da companhia, interromper o avanço de forma unilateral enquanto concorrentes seguem desenvolvendo seus sistemas não seria uma estratégia viável no atual ambiente competitivo.

Apesar da mudança, a Anthropic afirma que passará a publicar relatórios de risco a cada 3 a 6 meses, com detalhes sobre capacidades dos modelos, potenciais ameaças e medidas de mitigação adotadas, além de divulgar metas específicas relacionadas à segurança.