IA aplicada: o que aprendemos ao usá-la em produtos e clientes reais
Sem fumo: como usamos a IA nos nossos próprios SaaS, o que construímos para clientes (incluindo agentes com avatar em tempo real) e as seis lições que gostaríamos de ter sabido antes.
Usamos modelos de linguagem desde que deixaram de ser um brinquedo: no nosso fluxo de desenvolvimento, dentro dos nossos produtos e em projetos de clientes. Este artigo não é futurologia. É sobre o que funciona, o que não funciona, e o que gostaríamos de ter sabido antes de começar.
Onde a usamos nós próprios
Nos nossos próprios SaaS. Os nossos produtos levam IA onde encurta trabalho real: revisão e extração de dados de documentos (uma despesa fotografada torna-se um lançamento contabilístico com os campos preenchidos), explicações em linguagem clara de resultados técnicos, e recomendações que priorizam o que corrigir primeiro. Nenhuma destas funções se anuncia como "magia". Anunciam-se como o que são: minutos poupados todos os dias.
Em projetos de clientes. O caso mais vistoso: agentes com avatar que falam em tempo real. Um assistente com cara e voz que atende os utilizadores de um cliente, treinado com um system prompt próprio (personalidade, limites, tom da marca) e ligado por RAG ao conhecimento da empresa, de forma a responder com os dados do negócio e não com generalidades da internet. Dedicámos-lhe um artigo inteiro, porque a arquitetura o merece.
Na forma como trabalhamos. Os assistentes de código fazem parte do nosso dia a dia desde o início. Não substituem o critério: amplificam-no. A revisão continua a ser humana.
As seis lições
1. Comece por um processo mensurável, não por "queremos IA"
Os projetos que correm bem começam com uma frase do tipo "rever cada fatura custa-nos 4 minutos e entram 300 por mês". Os que correm mal começam com "queremos um chatbot". Se não consegue medir o antes, nunca provará o depois.
2. O RAG ganha quase sempre ao retreino
Para que um modelo responda com o conhecimento da sua empresa não precisa de o treinar com os seus dados. Precisa de recuperação: indexar os documentos e passar ao modelo os fragmentos relevantes em cada pergunta. É mais barato, atualiza-se ao instante (carrega um documento novo e está feito) e pode auditar que fontes cada resposta usou.
3. O system prompt é um produto, não uma frase
A diferença entre um assistente que representa a sua marca e um que inventa políticas de devolução está num system prompt trabalhado: o que sabe, o que nunca deve fazer, como fala, quando passa a um humano. O nosso passa por versões, testes e regressões, como qualquer outra peça de software.
4. Mantenha o humano no circuito
Em tudo o que toca dinheiro, clientes ou decisões legais, a IA propõe e uma pessoa dispõe. Um rascunho de resposta que um agente humano aprova em dois segundos captura quase todo o valor com uma fração do risco.
5. Orce custo e latência desde o primeiro dia
Um modelo grande em cada pedido pode arruinar as margens de uma funcionalidade. Há quase sempre uma arquitetura escalonada melhor: modelos pequenos para classificar e encaminhar, o grande só quando é preciso. E em tempo real (voz, avatares), a latência manda sobre tudo o resto.
6. Avalie antes de lançar, não depois do susto
Um conjunto de perguntas de teste com respostas esperadas, executado a cada mudança de prompt ou de modelo, deteta as regressões antes dos seus utilizadores. É aborrecido, e é o que separa um assistente fiável de uma anedota nas redes.
Por onde começar na sua empresa
Escolha um processo que doa (repetitivo, mensurável, frequente), monte a versão mais pequena que possa funcionar, com humano no circuito, e meça duas semanas. Se os números aguentarem, amplie. Se não, perdeu pouco.
Se preferir percorrer esse caminho acompanhado, é exatamente o que fazemos em consultoria: identificar onde a IA traz valor real ao seu negócio e construir a integração, da automatização de um processo a um agente com avatar a falar com os seus clientes.