Flashcard FC462619
O que é risco de memorização em modelos de IA?
Inteligência Artificial (IA)
O que é risco de memorização em modelos de IA?
Mostrar resposta e comentário
Resposta
A Memorização ocorre quando um modelo aprende e reproduz trechos sensíveis do conjunto de treinamento, permitindo que informações pessoais apareçam nas respostas.• Causa: excesso de ajuste e presença de registros únicos ou repetidos nos dados de treinamento; o modelo memoriza em vez de generalizar.
• Consequência: exposição de dados pessoais e segredos comerciais, violação de privacidade e responsabilidade legal.
• Mitigações: aplicar Differential Privacy, remover exemplos sensíveis, limitar contexto de entrada, usar filtragem de saída e políticas de rate limiting.
Como a banca pode cobrar na prova:
• A banca geralmente apresenta situações práticas em que um modelo revela PII e pede a técnica adequada para mitigar o vazamento.
• Fique atento porque questões confundem mitigações técnicas com medidas administrativas; escolha a alternativa que inclui controle técnico específico.
• Outro ponto frequente é diferenciar overfitting de memorização explícita, por isso saiba relacionar causa e efeito.
• Lembre-se de que aplicar ruído via privacy budget reduz a utilidade, então espere alternativas que mencionem trade-offs.
Conteúdo do catálogo FC Concursos · Atualizado em