Executando verificação de segurança...
7

[PITCH] NoFingerC# Você pode moderar conteúdo ofensivo com DNA do Brasil

No finger C#

Construindo o NoFingerC#: um moderador de texto que entende os 🇧🇷

Fala dev's! 😎

Tô começando a construir um projeto em público e quero muito ouvir ideias, sugestões e até críticas construtivas. Apresento pra vocês o NoFingerC#, um moderador de texto via API pensado 100% no nosso jeitinho safado brasileiro de se comunicar.

As ferramenta atuais de moderação embora conheça o português, não conhece o nosso português, o português que falamos no geral, na cachorrada.

Qual a ideia?

O NoFingerC# vai ser uma API que modera textos em português do Brasil com contexto local: gírias, memes, expressões regionais, ironia e até piada interna. A proposta é entender quando alguém tá brincando, quando tá passando do ponto, e principalmente: explicar o motivo de cada marcação.

Tudo ainda está em construção, e por isso mesmo quero sua ajuda!

O que já pensei:

  • 🎯 Foco inicial em moderar texto puro (nada de imagem ou voz por enquanto);
  • 🌎 Suporte a gírias e memes brasileiros, com base em corpus nacional (posts, fóruns, redes sociais);
  • ⚖️ Detecção de conteúdo ofensivo, tóxico, preconceituoso ou que fere as políticas da sua plataforma (Isso ainda estou pensando);
  • 📋 Feedback por requisição explicando o porquê da marcação (nada de "erro 403" misterioso);
  • 🧰 Personalização de categorias e palavras proibidas (opcional);
  • 📊 Possível dashboard no futuro pra ver relatórios de moderação.

Ideia de planos (abertos a feedback!):

  • Plano Teste – R$10 para até 10 mil palavras moderadas
  • Plano PRO – R$199 para até 500 mil palavras (o que dá uns 8 livros de 274 páginas)

Ainda estou testando esses valores. A ideia é manter acessível, principalmente pra startups e devs independentes que tão lançando seus produtos.

Pra quem seria útil?

  • Apps com chat (mensagem direta, comunidade, suporte...)
  • Plataformas com comentários públicos
  • Marketplaces com reviews e descrições
  • Jogos com chat entre jogadores
  • Qualquer sistema onde texto é gerado por usuários e precisa estar dentro das regras.

Agora eu quero te ouvir!

  • Você já sofreu com moderação injusta de algum serviço gringo?
  • Faz sentido um produto assim pra sua realidade?
  • Que tipo de conteúdo você mais precisa filtrar?
  • Esses preços estão viáveis pra você?
  • Achei esse nome engraçado, porém ruim de pronunciar e lembrar, o que vocês acham? Me sugira

💬 Me responde aqui nos comentários ou onde achar melhor (Twitter, TabNews, YouTube – já fiz até um vídeo rápido explicando: https://www.youtube.com/watch?v=hef8_1Ozz9E).

🚧 Ah! A landing page que fiz é só temporária, mas tem um resuminho: https://ddiidev.github.io/NoFingerCSharpLP/

E se tiver interesse, considere me enviar uma mensagem pra meu contato direto em NoFingerC# Contato, vou te responder o quanto antes, pode ter certeza!

Obrigado por ler até aqui! Se curtiu a ideia, compartilha com alguém que precisa disso. Tô animado pra construir isso junto com vocês! 💪

Abraço!

— André Luiz

Carregando publicação patrocinada...
3

Opa, André! Achei muito interessante sua ideia. Sou engenheiro de machine learning e atuo principalmente em processamento de linguagem natural e visão computacional. Oque você comentou sobre detecção de conteúdo ofensivo poderia ser feito por um simples modelo de NLP com detecção de sentimento ou agressividade, hoje em dia existem grandes nomes open-source em plataformas como o HuggingFace, mas acho que no seu caso o legal seria treinar com um corpus em português brasileiro e de repente aplicar um fine-tuning em um modelo como o BERT para classificação.

2

Cara que legal, porque esses dias me perguntaram o que tinha feito pra fazer funcionar e minha resposta é zero, 'kkkk

Esse é de fato um construindo em público, não tem nada pronto nem mesmo o conhecimento sobre.

Eu vou estudar sobre tudo que me indicou e vou gravar o aprendizado de cada coisa, obrigado demais.

O fundador do Woolball (Woolball é um serviço de IA descentralizada onde o processamento acontece em múltiplos nós espalhado pelo globo), cara gente boa demais me indicou dá uma estudada também no LangFlow e em modelos BR como (https://www.maritaca.ai/, https://tucanoai.com/), ele até me disse que provavelmente vou conseguir bastante crédito na plataforma Langflow gratuita pra que eu possa fazer esse RAG.

Eu tenho tudo isso aqui pra estudar e não sei por onde começar (Se tiver um roadmap, perfeito) 'kkkk

Mas sou grato demais por você ter dedicado parte do teu tempo pra o meu humilde projeto, obrigado!

2

Eu não entendo muito de LM 🤖, mas deveria ter uma demonstração na prática para ser usado 24 horas. A ideia é interessante e única até agora. Pois não conheço um serviço focado para brasileiros, a título de moderação.

1

Boa obrigado pela sugestão eu vou construir uma versão prática, eu gostaria de fazer o fake door, porém é dificíl. As pessoas querem testar certo?

Você acha que se tivesse no site ao menos um exemplo fake funcionando melhoraria essa tração?

Se inscreve lá no youtube, vou estar atualizando 1x por semana sobre o projeto.
Obrigado pelo feedback