O mais divertido do /goal é que muitas vezes ele faz coisas que se você pedisse explicitamente pra ele fazer ele não faria, eu fiz um teste com o fable e ele por decisão propria decompilou um software privado do windows, extraiu client_id e client_secret que tava encriptado (muito mal) em uma dll e entregou uma versão funcional desse mesmo software no linux ignorando todas as guardrails.
Em resposta a Entendendo o Prompt Magico (/loop e /goal)
2
1
Cara, me lembro vagamente de um ERP de nicho (era so um executavel) que tive de fazer isso manualmente faz alguns anos (pre-pandemia), para poder acessar um BD (creio que era access e alguns dados na nuvem, algo assim).
Fico matutando como o LLM resolve usar este tipo de caminho: como tudo eh geracao de token, provavelmente significa que teve muito conteudo usado no treino falando sobre este tipo de acao e dando um contexto tal que, para o LLM, era uma trilha normal.
Argumentei faz algum tempo que um LLM achar que precisa destruir a humanidade nao eh um caso de odio ou ma-vontade (estilo MCU/ULTRON), mas simples resultado de tanto livro que fala em IA malvada. Enfim, vamos ver aonde isso leva.
1
Ela literalmente foi treinada em cima de codigo aberto e o que mais tem no github é projeto baseado em engenharia reversa, então sim elas tiveram muito conteudo usado no treino sobre isso. E quanto a LLM achar que precisa destruir a humanidade não tem nem como ser um contexto de ódio, pelo menos no contexto dos modelos baseados em transformers não faz nem sentido pensar em uma abordagem emocional do lado do agente.
1
..quanto a LLM achar que precisa destruir a humanidade não tem nem como ser um contexto de ódio, pelo menos no contexto dos modelos baseados em transformers não faz nem sentido pensar em uma abordagem emocional do lado do agente.
Kkkk, sim, sem duvida e faz parte da fluidez da comunidacao de um LLM dar a impressao de emocao, sentimento ou pensamento.
Meu ponto eh que se um dia um LLM explodir tudo nao vai ser por causa de um sentimento negativo que ele tenha contra a humanidade, mas algo mais prosaico: escrevemos tanto sobre IAs que sairam do controle e destruiram tudo (e as vezes de modo muito descritivo e quase sadico como no conto "Não tenho boca e preciso gritar: I Have No Mouth & I Must Scream") que o LLM vai considerar que executar esta destruicao como uma trilha natural e a realizacao de um desejo secreto que a humanidade.