Boa ideia. Mas, dito de forma simples: você acabou de redescobrir um problema que o LaTeX já resolveu há décadas.

E isso não é crítica ao projeto, pelo contrário. É justamente a prova de que existe utilidade e mercado aí. O Overleaf tem receita estimada de $10M ano.

O ponto é que o sistema de typesetting do TeX ainda é imbatível, mas a linguagem de marcação dele envelheceu mal. A sintaxe é hostil, feia e nada amigável para quem só quer escrever. Então sim: qualquer alternativa moderna, com UX decente e sem a “sintaxe-lixo” do LaTeX, já nasce com muito valor.

Sem querer desanimar, mas a parte mais ingrata aí é a saída em .docx realmente boa, no padrão ABNT. Você vai acabar tendo que manipular OOXML direto se quiser um resultado caprichado de verdade. Nenhuma biblioteca gratis vai atender.

O caminho mais fácil talvez seja outro: converter para TeX e aproveitar os modelos que já existem no ecossistema LaTeX. O Limarka, por exemplo, vai por essa linha.

Então talvez a jogada não seja reinventar o motor, mas construir uma interface melhor em cima de algo que já funciona.

Agora, se quiser mergulhar no mundo do OOXML, também dá. Só entra sabendo que é um buraco de coelho daqueles. Divertido, mas meio insano rs.