Flashcard FC462636
Como avaliar robustez e quais métricas usar contra ataques?
Inteligência Artificial (IA)
Como avaliar robustez e quais métricas usar contra ataques?
Mostrar resposta e comentário
Resposta
Avaliar robustez significa medir a capacidade do modelo de manter desempenho diante de entradas adversariais, ruído e cenários fora da distribuição.• **Tipos de ataque para teste**: white-box, black-box e transfer attacks
• **Métricas**: acurácia sob ataque, taxa de erro adversarial, perda média e robustez certificada quando aplicável
• **Abordagens de avaliação**: testes empíricos com ataques conhecidos e métodos formais de certificação de robustez
Como a banca pode cobrar na prova:
• A banca costuma cobrar distinção entre tipos de ataque e métricas de robustez, então decore white-box versus black-box e exemplos de métricas.
• Fique atento porque alternativas podem misturar métricas de desempenho padrão com métricas específicas de robustez; assinale a segunda quando o contexto for ataque.
• Outro ponto que aparece é a existência de certificação formal de robustez, por isso saiba que nem toda técnica tem garantia matemática.
• Lembre-se de que avaliações práticas combinam ataques empíricos e testes de regressão para monitoramento contínuo; isso costuma ser cobrado em casos aplicados.<br
Conteúdo do catálogo FC Concursos · Atualizado em