Flashcard FC462678
Como auditar modelos para detectar viés na prática?
Inteligência Artificial (IA)
Como auditar modelos para detectar viés na prática?
Mostrar resposta e comentário
Resposta
Auditar exige testes dirigidos, documentação e revisões periódicas com foco em subgrupos e fluxos de dados.• Testes por subgrupos: avaliar métricas separadas para cada grupo sensível e comparar discrepâncias
• Testes contrafactuais: verificar se pequenas alterações em atributos não sensíveis mudam indevidamente a decisão
• Documentação: criar model cards e datasheets de dataset para registrar limitações e usos previstos
• Monitoramento contínuo: capturar mudanças de distribuição e sinais de feedback loop para intervenção rápida
Como a banca pode cobrar na prova:
• A banca geralmente apresenta um plano de auditoria e pede para identificar etapas essenciais, então enumere testes por subgrupo e documentação.
• Fique atento porque a banca pode pedir métodos de verificação técnica como testes contrafactuais, não confunda com simples validação cruzada.
• Outro ponto importante é a exigência de documentação clara, que costuma ser cobrada como boa prática obrigatória.
• Lembre-se de que monitoramento e resposta a mudanças são frequentemente cobrados em questões sobre governança de modelos.
Conteúdo do catálogo FC Concursos · Atualizado em