Flashcard FC462608
Como abordar explicabilidade em modelos de linguagem grande (LLMs) e quais técnicas são aplicáveis?
Inteligência Artificial (IA)
Como abordar explicabilidade em modelos de linguagem grande (LLMs) e quais técnicas são aplicáveis?
Mostrar resposta e comentário
Resposta
• Desafio: LLMs possuem estruturas complexas e atenção não é equivalente a explicação; a lógica interna é difícil de mapear diretamente.• Técnicas práticas: rastreabilidade de fontes, Retrieval-Augmented Generation (RAG), logs de decisão, prompt engineering e testes de políticas para limitar comportamentos indesejados.
• Testes e validação: baterias de casos de uso, avaliações humanas e testes adversariais são essenciais para verificar consistência e segurança das respostas.
• Limitações: explicações locais e salientes podem não refletir raciocínio interno, portanto priorize verificabilidade, monitoramento e controle sobre explicações puras.
Como a banca pode cobrar na prova:
• A banca costuma cobrar diferenças entre explicabilidade em modelos clássicos e em LLMs, destacando limitações práticas de interpretação.
• Fique atento porque questões podem confundir atenção com explicação, então cite por que atenção não prova causalidade interna.
• Outro ponto frequente é a ênfase em rastreabilidade e RAG como estratégias pragmáticas, que costumam aparecer em questões aplicadas.
• Lembre-se de mencionar testes e políticas de segurança, pois a banca valoriza respostas que considerem mitigação de riscos em produção.
Conteúdo do catálogo FC Concursos · Atualizado em