Exatamente!
Será necessário então fazer uso de outras ferramentas, provavelmente LLMs
Esse ponto eu não consegui colocar no texto, mas é um dos que mais me preocupa! Não parece existir incentivo financeiro nenhum para resolver esse problema.
Quanto mais volume, mais você precisa delas para tentar fazer algum sentido daquilo depois.
Quanto mais volume, a quantidade de tokens aumenta fazendo você pagar mais caro.
Esse "mais você precisa delas" que tu mencionou é a principal estratégia das empresas por trás dos LLMs, porque pelo que entendi o valor que hoje é cobrado é subsidiado. Muitas estão operando no prejuízo, mas o foco é no crescimento orgânico. A ideia é atrair o máximo de usuários, encurralar pela dependência, e depois cobrar o máximo.
O Uber tá fazendo isso agora no Brasil, aumentando cada vez mais o valor das corridas. Até já foram alertados por prefeituras onde atuam:
SP: https://exame.com/brasil/procon-de-sp-notifica-uber-e-99-por-precos-abusivos/