Trilha de RAG
Aulas da trilha de RAG em ordem de estudo, do que é um LLM até a avaliação de um sistema.
12 posts
- 1LLMs: como um modelo lê texto e por que o contexto limita
Como um LLM lê e escreve em tokens, o que é a janela de contexto e por que ele não conhece os seus dados nem para de inventar com segurança.
- 2Prompt e contexto: montando o que vai para o modelo
Como montar instruções, exemplos e material de referência para o modelo citar a fonte e dizer quando não sabe a resposta.
- 3Embeddings: texto que vira vetor com significado
Como transformar um texto em números que carregam significado, de modo que textos parecidos fiquem perto uns dos outros no espaço.
- 4Similaridade entre vetores: quando dois vetores são parecidos
Como o computador decide que dois vetores são parecidos, com as três medidas usadas (euclidiana, produto escalar e cosseno) e quando cada uma serve.
- 5Busca vetorial: achando vizinhos entre milhões de vetores
Como achar os vetores mais próximos de uma consulta quando existem milhões deles, com índices aproximados como IVF, HNSW e quantização.
- 6Banco de dados vetorial: guardando, atualizando e filtrando vetores
O que um banco de dados vetorial guarda, como mantém o índice atualizado com filtros e quando vale usar um dedicado em vez de uma extensão.
- 7Chunking: cortando documentos em pedaços que fazem sentido
Como cortar documentos grandes em pedaços que cabem no contexto e ainda fazem sentido sozinhos, e como medir se o corte funciona.
- 8Ingestão de documentos: de PDFs e páginas a pedaços atualizados
Como transformar PDFs, páginas web e notas em texto limpo indexado, e como manter o índice atualizado quando os documentos mudam.
- 9Busca híbrida: quando a busca por significado erra siglas e nomes
O que fazer quando a busca por significado erra siglas, códigos e nomes próprios, combinando-a com a busca por palavras.
- 10Reranking: reordenando candidatos antes de entregá-los ao modelo
Como melhorar a ordem dos resultados com uma segunda leitura mais precisa, e quantos candidatos e pedaços vale usar em cada etapa.
- 11RAG: o pipeline completo e onde ele costuma quebrar
O que é RAG (geração aumentada por busca), como o pipeline completo funciona, como montar o prompt com citação e recusa, e onde ele falha.
- 12Avaliação de RAG: como saber se o sistema está bom
Como medir se um RAG acerta, se as respostas se apoiam nos trechos recuperados e se uma mudança melhorou ou piorou o resultado.