Flashcard FC462650
Por que os LLMs alucinam?
Inteligência Artificial (IA)
Por que os LLMs alucinam?
Mostrar resposta e comentário
Resposta
A alucinação surge de limitações do treinamento e do método de geração de texto dos modelos de linguagem.• Objetivo de máxima verossimilhança: o treino prioriza continuar o texto mais provável, não garantir verdade factual
• Lacunas de dados: ausência ou viés em dados de treinamento leva o modelo a completar com conjecturas
• Falta de grounding: sem acesso em tempo real a fontes verificadas o modelo preenche lacunas com “melhor palpite”
• Ambiguidade do prompt: instruções vagas permitem que o modelo gere conteúdo especulativo
Como a banca pode cobrar na prova:
• A banca geralmente aborda causas técnicas, então explique a diferença entre treinar para plausibilidade e treinar para verdade factual.
• Fique atento porque podem apresentar alternativas que confundem falta de dado com falha de arquitetura; diferencie claramente ambos os conceitos.
• Outro ponto comum é testar entendimento sobre prompt; questões podem mostrar exemplos de instruções ambíguas para avaliar sua identificação do risco.
• Lembre-se de relacionar causas a mitigação, pois provas costumam ligar problema e solução na mesma questão.
Conteúdo do catálogo FC Concursos · Atualizado em