Flashcard FC462603
O que é SHAP e por que Shapley values são importantes na explicabilidade?
Inteligência Artificial (IA)
O que é SHAP e por que Shapley values são importantes na explicabilidade?
Mostrar resposta e comentário
Resposta
• Conceito: SHAP baseia-se em valores de Shapley da teoria dos jogos para atribuir contribuição justa de cada feature à predição, garantindo propriedades formais como aditividade e consistência.• Implementações: existem versões gerais (Kernel SHAP) e otimizadas para árvores (TreeSHAP), que reduzem custo computacional sem perder propriedades fundamentais.
• Vantagens: base matemática sólida, explicações aditivas e comparáveis entre instâncias.
• Limitações: custo elevado em modelos grandes, interpretações podem ser sensíveis a correlações entre features e assumem independência implícita em algumas variantes.
Como a banca pode cobrar na prova:
• A banca costuma cobrar as propriedades dos valores de Shapley e por que geram atribuições 'justas'.
• Fique atento porque perguntas podem confundir Kernel SHAP com TreeSHAP; diferencie custo e otimizações específicas.
• Outro ponto é a sensibilidade a correlações entre variáveis, que frequentemente aparece em itens de interpretação.
• Lembre-se que a justificativa teórica é tão valorizada quanto as limitações práticas em questões discursivas.
Conteúdo do catálogo FC Concursos · Atualizado em