O pipeline de curadoria que descarta "fofocas" depende criticamente da janela de contexto e do custo da inferência. Se o modelo for chamando a API a cada artigo isolado, o overhead de prompt + resposta vai encarecer a operação e aumentar a latência, especialmente em picos de leitura.
Uma arquitetura mais eficiente costuma fazer o embedding de todos os feeds em lote (batch) para calcular similaridade semântica com os temas do dia, em vez de enviar o texto completo para o LLM. Isso reduz drasticamente o número de tokens processados e evita que o modelo se distraia com o ruído da introdução do texto.
Para os resumos narrados, a Web Speech API é prática, mas a latência de síntese de voz (TTS) pode quebrar a experiência se o usuário estiver com rede instável. Como você está lidando com a validação anti-SSRF no importador OPML? Garantir que os fetches externos não exponham a instância é crucial nesse tipo de agregador.