Roblox torna open-source ferramenta de detecção de situações de risco para crianças

O Roblox anunciou que tornou open-source o Sentinel, sistema desenvolvido para identificar padrões de comportamento potencialmente perigosos para crianças.

Diferente de métodos que apenas sinalizam palavras ou frases isoladas, o Sentinel analisa conversas ao longo do tempo, avaliando se a interação do usuário tende a ser segura ou a representar risco.

Na própria plataforma, a empresa afirma que o sistema processa capturas de tela de um minuto das aproximadamente 6 bilhões de mensagens trocadas diariamente, interpretando-as dentro de um contexto mais amplo. Quando o Sentinel sinaliza um usuário para investigação, moderadores humanos revisam seu histórico completo de bate-papo, lista de amigos e jogos acessados. Se necessário, a Roblox encaminha os casos às autoridades competentes.

Com a abertura do código-fonte, outras empresas poderão adotar e adaptar a ferramenta. O projeto está disponível no repositório Roblox/Sentinel no GitHub.