A ideia nasceu de uma percepção simples: boa parte dos mecanismos atuais de proteção online ainda é reativa. Ou seja, o sistema entra em ação depois da denúncia, depois do dano, depois da exposição ou depois que algum moderador humano precisou revisar algo sensível.

Isto não é exatamente verdade. Roblox por exemplo tem um sistema chamado "sentinel", coincidentemente semelhante ao nome do teu projeto que faz basicamente a mesma coisa. Hoje o sistema é considerado maduro, mas sempre encontram brechas... Acredito que sentinel é open-source, e poderia servir de inspiração para você