Flashcard FC462630
O que são adversarial examples e por que são perigosos?
Inteligência Artificial (IA)
O que são adversarial examples e por que são perigosos?
Mostrar resposta e comentário
Resposta
São entradas maliciosas, projetadas para enganar modelos de IA e provocar respostas incorretas ou indesejadas, mesmo quando parecem válidas para humanos.• **Características**: pequenas perturbações ou manipulações imperceptíveis que alteram a saída do modelo
• **Vetores**: imagens, texto, áudio e dados tabulares podem ser alvo
• **Riscos**: comprometem decisões automáticas, causam falhas em sistemas críticos e possibilitam exploração em produção
• **Mitigações iniciais**: treinamento adversarial, detecção de anomalias e pré-processamento de entradas
Como a banca pode cobrar na prova:
• A banca geralmente cobra definição e exemplos práticos de adversarial examples para testar compreensão do mecanismo de ataque.
• Fique atento porque alternativas podem confundir perturbações imperceptíveis com ruído aleatório, então foque na intenção e no efeito sobre o modelo.
• Outro ponto importante é as formas de mitigação, que costumam aparecer em itens sobre treinamento e detecção; decore técnicas básicas.
• Lembre-se de diferenciar ataques dirigidos e não dirigidos para não cair em alternativas que misturam os conceitos.<br
Conteúdo do catálogo FC Concursos · Atualizado em