Auditoria Experimental de Evidências, Abstenção e Reprodutibilidade em Sistemas RAG
Evolução da Trilha IC de IA II para avaliação rigorosa de sistemas de IA aplicados à educação e análise de resultados
Origem: Evolução da proposta de Iniciação Científica da disciplina de IA II (Programa IC Especial e TP3 Master) · Status: Disponível · Modalidade: Pesquisa Aplicada + Experimentação
1. Contexto e Problema
Sistemas baseados em Retrieval-Augmented Generation (RAG) frequentemente produzem respostas plausíveis mesmo quando as evidências recuperadas são insuficientes, citam fontes incorretas ou não conseguem reproduzir os mesmos resultados em uma segunda execução. No contexto de projetos práticos e sistemas educacionais, garantir que a resposta seja rastreável, cite corretamente suas fontes e saiba se abster quando não há suporte é essencial para confiabilidade e feedback formativo.
Na disciplina de Inteligência Artificial II, foi estruturado um protocolo inicial de Auditoria Experimental (Trilha IC Especial) sobre os artefatos produzidos pelos próprios alunos (corpus, hashes, contratos de embedding, Golden Set, citações e decisões de abstenção). Este TCC propõe transformar e aprofundar essa investigação em um estudo experimental completo e automatizado.
2. O que será feito (Escopo do TCC)
- Partir do protocolo de auditoria do Programa IC Especial e dos contratos definidos no TP3 Master (propostas
RESPONDER,ABSTERePEDIR_ESCLARECIMENTO). - Estruturar e automatizar um pipeline de auditoria para verificar:
- Cobertura de evidência: se cada afirmação relevante da resposta está sustentada por trechos efetivamente recuperados (
supporting_ids); - Validade de citações: se os identificadores e títulos citados correspondem ao índice e contrato versionado;
- Adequação da abstenção: se casos ambíguos, fora do domínio ou sem suporte evitam alucinações e invenção de fontes;
- Reprodutibilidade independente: se outra pessoa, em ambiente limpo com versões congeladas, obtém as mesmas decisões e métricas.
- Cobertura de evidência: se cada afirmação relevante da resposta está sustentada por trechos efetivamente recuperados (
- Avaliar os resultados em um conjunto ampliado de casos de teste e analisar qualitativamente as principais classes de falha.
3. Perguntas para você refletir
Se você se identifica com as questões abaixo, este tema pode ser uma boa escolha:
- Como medir objetivamente se um sistema RAG “falou a verdade com base nos dados” versus “chutou uma resposta bonita”?
- Onde está o equilíbrio entre abster-se de responder (segurança contra alucinação) e ser excessivamente conservador (perder respostas úteis)?
- Quais artefatos e contratos mínimos precisam ser congelados em um projeto de IA para que outro pesquisador consiga reproduzir o experimento sem depender de conhecimento oral?
4. Entregáveis Esperados
5. Pré-requisitos e Tecnologias Sugeridas
- Base necessária: programação em Python, noções de Git/versionamento e familiaridade com experimentação/avaliação de modelos.
- Tecnologias e conceitos envolvidos (podem ser aprofundados no projeto): RAG, embeddings, bancos vetoriais, validação de contratos JSON/YAML, métricas de avaliação de LLMs e pipelines reproduzíveis.
6. Ponto de Partida (Referências Iniciais)
7. Como demonstrar interesse
Antes de agendarmos uma conversa, leia os dois documentos do Ponto de Partida e traga uma resposta breve para:
- Você já participou (ou pretende participar) da Trilha IC em IA II, ou quer entrar no tema diretamente pelo TCC?
- Qual dimensão da auditoria mais te interessa: evidência/citações, política de abstenção, automação de testes ou reprodutibilidade?
- Qual sua disponibilidade semanal estimada para o TCC?