Flashcard FC462606
Quais são os principais riscos e pegadinhas ao usar explicações pós-hoc?
Inteligência Artificial (IA)
Quais são os principais riscos e pegadinhas ao usar explicações pós-hoc?
Mostrar resposta e comentário
Resposta
• Explicações enganosas: podem ser plausíveis e ainda assim não refletir a lógica interna do modelo, gerando confiança indevida.• Instabilidade: pequenas mudanças na entrada ou parâmetros do explicador podem causar explicações muito diferentes.
• Confusão entre correlação e causalidade: importância atribuída não implica relação causal; decisões baseadas nisso podem ser incorretas.
• Dependência de suposições: muitos métodos assumem independência de features ou linearidade local, o que nem sempre é válido.
Como a banca pode cobrar na prova:
• A banca frequentemente inclui itens sobre limitações práticas, pedindo que o candidato identifique riscos de confiar cegamente em explicações.
• Fique atento porque alternativas tentam confundir correlação com causalidade, então destaque essa diferença.
• Outro aspecto comum é a instabilidade de métodos locais, que costuma ser tema de questões que testam profundidade de entendimento.
• Lembre-se de mencionar suposições subjacentes aos métodos, pois são alvo frequente de pegadinhas.
Conteúdo do catálogo FC Concursos · Atualizado em