Flashcard FC462592
Quais são as principais técnicas de explicabilidade utilizadas atualmente?
Inteligência Artificial (IA)
Quais são as principais técnicas de explicabilidade utilizadas atualmente?
Mostrar resposta e comentário
Resposta
As técnicas se dividem entre modelos intrinsecamente interpretáveis e métodos pós-hoc que explicam modelos complexos.• Modelos interpretáveis: árvores de decisão, regressões lineares e regras que permitem compreensão direta
• Post-hoc model-agnostic: LIME e SHAP, explicam qualquer modelo estimando contribuição de variáveis
• Model-specific: mapas de saliência e visualizações para redes neurais, ajustadas à arquitetura
• Contrafatuais e exemplos: geram cenários alternativos que mudariam a decisão, úteis para ação corretiva
• Extração de regras: transforma comportamento do modelo em regras simbólicas compreensíveis
Como a banca pode cobrar na prova:
• A banca costuma pedir a associação entre técnica e tipo de modelo, por exemplo LIME e SHAP para modelos complexos.
• Fique atento porque há pegadinhas que trocam método pós-hoc por modelo intrinsecamente interpretável; leia atentamente a pergunta.
• Outro ponto é diferenciar contrafatuais de saliências, então saiba que contrafatuais propõem alterações e saliências destacam pixels ou features.
• Lembre-se de que cada técnica tem limitações práticas, então considere aplicabilidade ao responder questões de procedimento.
Conteúdo do catálogo FC Concursos · Atualizado em