Flashcard FC462607
Quais métricas e critérios usar para avaliar explicações de modelos?
Inteligência Artificial (IA)
Quais métricas e critérios usar para avaliar explicações de modelos?
Mostrar resposta e comentário
Resposta
• Fidelidade: quanto a explicação aproxima o comportamento real do modelo, medida por perda explicativa ou correlação com predições.• Estabilidade: consistência das explicações frente a pequenas variações nas entradas ou no processo de explicação.
• Compreensibilidade: grau em que humanos conseguem entender e utilizar a explicação, avaliado por estudos de usabilidade.
• Sparsidade e custo computacional: explicações simples e eficientes são preferíveis para aplicação prática; medições incluem número de features e tempo de cálculo.
Como a banca pode cobrar na prova:
• A banca costuma pedir que o candidato relacione métricas a cenários práticos, por exemplo fidelidade para auditoria técnica.
• Fique atento porque alternativas podem confundir estabilidade com fidelidade, então diferencie claramente cada métrica.
• Outro ponto comum é a ênfase na compreensibilidade para decisões humanas, que costuma aparecer em questões aplicadas.
• Lembre-se de incluir aspectos computacionais, pois eficiência pode ser critério decisivo em provas de engenharia de ML.
Conteúdo do catálogo FC Concursos · Atualizado em