O que é o RAG em inteligência artificial e como usá-lo na sua empresa

O RAG explicado com uma analogia: o exame de consulta

Um modelo de linguagem é como um estudante brilhantíssimo que leu metade da Internet mas que não viu os seus contratos, procedimentos nem clientes. Se o interroga sobre eles, improvisa. O RAG transforma o exame num exame de consulta: antes de responder, o sistema procura as páginas relevantes nos seus documentos e põe-nas diante do estudante. Este redige a resposta com elas e diz-lhe de onde vem cada dado.

Não é preciso “retreinar” o modelo. Se mudar um procedimento, atualiza o documento e a resposta seguinte já o tem em conta.

Como funciona o RAG, passo a passo

1. Ingestão: recolhem-se os documentos (PDF, Word, wikis, e-mails, tickets) e extrai-se o texto, com OCR se estiverem digitalizados.
2. Divisão: cada documento divide-se em fragmentos com sentido (secções, cláusulas) e acrescentam-se metadados (data, departamento, permissões).
3. Indexação: cada fragmento converte-se num vetor numérico (embedding) que representa o seu significado e guarda-se numa base de dados vetorial.
4. Recuperação: perante uma pergunta, o sistema procura os fragmentos mais próximos em significado (e por palavras-chave), filtra por permissões e reordena-os.
5. Geração: o modelo recebe a pergunta, os fragmentos e as instruções (“responde apenas com isto e cita a fonte”) e redige a resposta.
6. Verificação: mostram-se as fontes e, se não houver evidência suficiente, o sistema reconhece-o em vez de inventar.

RAG, fine-tuning ou prompt longo: quando usar cada um

Nos projetos empresariais o RAG é a norma, por vezes combinado com fine-tuning para o tom ou o formato de saída.

Quando faz sentido um projeto RAG

Erros típicos na construção de um RAG

• Indexar documentos sem os limpar: versões duplicadas e contraditórias produzem respostas contraditórias.
• Dividir por tamanho fixo e cortar uma cláusula a meio.
• Usar só pesquisa semântica e falhar em referências exatas (códigos, montantes, nomes).
• Não filtrar por permissões e mostrar informação a quem não a deveria ver.
• Não avaliar: sem um conjunto de perguntas com respostas esperadas não se sabe se melhora ou piora.
• Esquecer a manutenção: os documentos mudam e o índice tem de ser atualizado.

Como começar na sua empresa

O caminho mais seguro é uma prova de conceito com uma única fonte de dados e 30-50 perguntas reais redigidas pelas pessoas que vão usar o sistema. Em poucas semanas saberá se a qualidade é suficiente e que preparação exigem os seus documentos. Se quer que nos encarreguemos nós, veja o nosso serviço de assistente de IA com os documentos da sua empresa; se o sistema também tiver de executar ações, evoluímo-lo para um agente de IA, e para o atendimento ao cliente expomo-lo através de um chatbot. Os custos estão neste guia de preços.

Perguntas frequentes

Conte-nos o seu projeto

Descreva o que pretende alcançar e com que sistemas trabalha. Respondemos em 24-48 h.