Agentes de IA não deveriam esperar instruções

A maioria dos sistemas que as pessoas chamam de "agentes" ainda são chatbots. Eles ficam em uma caixa de texto e esperam. Um humano digita, o modelo responde, talvez chame uma ferramenta, e depois espera de novo.

Isso é assistência. É útil, mas não remove trabalho. Cada etapa ainda precisa de uma pessoa para decidir a próxima etapa.

Um agente que merece o nome tem três coisas: uma meta, um loop e permissão para agir.

Uma meta, não um prompt

Um prompt descreve uma resposta. Uma meta descreve um resultado.

"Resuma este ticket" é um prompt. "Feche este ticket" é uma meta. A segunda implica pesquisa, uma decisão, uma ação e uma verificação. Também implica que o agente pode voltar e dizer que o ticket não pode ser fechado, e por quê.

Quando eu projeto um agente, o primeiro artefato não é o system prompt. É uma definição de pronto em uma linha que uma máquina consegue verificar.

Um loop, não um turno

O padrão de chat é um turno: entrada, saída. Agentes rodam em loop: observar, decidir, agir, verificar, repetir até terminar ou travar.

while not done:
    state   = observe()
    action  = decide(state, goal)
    result  = act(action)
    done    = verify(result, goal)

O loop é onde a autonomia mora. Também é onde as coisas dão errado, então ele precisa de limites: um número máximo de passos, um orçamento e uma lista de ações que exigem um humano.

Permissão para agir

Essa é a parte que as equipes evitam. Um agente que só consegue ler é seguro e inútil. Um agente que consegue escrever, fazer deploy, enviar e publicar é útil e assustador.

A resposta não é remover permissões. É torná-las explícitas e em níveis:

• Ações livres. Ler, buscar, rascunhar, rodar testes. Sem aprovação.
• Ações revisadas. Abrir um pull request, propor uma resposta. Um humano vê o resultado antes de ele sair.
• Ações restritas. Deploy em produção, enviar dinheiro, apagar dados. Um humano aprova cada uma.

A maior parte do valor está nos dois primeiros níveis. Quando eles rodam sem supervisão, o terceiro nível fica menor do que as pessoas esperam.

A IA deveria reduzir o número de decisões que humanos precisam tomar.

O que muda

Quando os agentes param de esperar, o formato do trabalho muda. As pessoas param de supervisionar etapas e passam a revisar resultados. Backlogs são processados de madrugada. O trabalho vira escrever metas melhores e verificações melhores.

É esse o sistema que quero construir para cada cliente: não um assistente mais inteligente, mas menos decisões na mesa de um humano.