Flashcard FC462601
O que são técnicas pós-hoc de explicabilidade e como se categorizam?
Inteligência Artificial (IA)
O que são técnicas pós-hoc de explicabilidade e como se categorizam?
Mostrar resposta e comentário
Resposta
• A definição: técnicas aplicadas após o treinamento para explicar o comportamento de modelos opacos, sem modificar o modelo original.• Categorização: explicações locais versus globais; métodos baseados em perturbação versus baseados em gradiente; modelos-agnósticos versus específicos de arquitetura.
• Objetivo: fornecer entendimento do que influenciou predições individuais ou padrões gerais do modelo.
• Risco: podem apresentar baixa fidelidade, oferecendo justificativas plausíveis que não refletem a real lógica interna.
Como a banca pode cobrar na prova:
• A banca costuma diferenciar explicações locais e globais, pedindo exemplos de cada tipo.
• Fique atento porque questões podem confundir métodos por serem agnósticos ou específicos, então preste atenção à descrição técnica.
• Outro aspecto comum é avaliar limitações, por isso destaque possíveis discrepâncias entre explicação e lógica interna.
• Lembre-se que métodos pós-hoc explicam, mas não alteram o modelo; essa distinção é frequente em provas.
Conteúdo do catálogo FC Concursos · Atualizado em