Flashcard FC462632
O que é data poisoning e quais formas assinalar?
Inteligência Artificial (IA)
O que é data poisoning e quais formas assinalar?
Mostrar resposta e comentário
Resposta
É a contaminação deliberada do conjunto de dados de treino para induzir comportamentos incorretos no modelo, incluindo backdoors e manipulação de rótulos.• **Tipos comuns**: envenenamento de rótulos (label flipping) e backdoors (gatilhos escondidos)
• **Impactos**: modelos que falham em condições específicas, decisões enviesadas ou ações maliciosas em presença de gatilho
• **Mitigações**: controle de procedência dos dados, detecção de anomalias, limpeza manual e técnicas robustas de treinamento
Como a banca pode cobrar na prova:
• A banca geralmente pergunta sobre definições e formas de data poisoning, então saiba diferenciar label flipping de backdoor.
• Fique atento porque é comum confundir erro de coleta com ataque deliberado, portanto identifique sinais de intenção ou padrões repetidos nos dados.
• Outro ponto frequente são medidas de mitigação como verificação de procedência e limpeza de datasets; decore procedimentos práticos.
• Lembre-se que técnicas robustas de treinamento aparecem em alternativas, então associe prevenção a métodos específicos e à governança de dados.<br
Conteúdo do catálogo FC Concursos · Atualizado em