Flashcard FC462649
O que é alucinação em modelos de linguagem (LLMs)?
Inteligência Artificial (IA)
O que é alucinação em modelos de linguagem (LLMs)?
Mostrar resposta e comentário
Resposta
A alucinação ocorre quando um modelo de linguagem gera informação plausível, porém falsa ou inexistente.• Definição: produção de fatos, citações ou referências que não correspondem à realidade conhecida
• Mecanismo: resultado do processo probabilístico que prioriza plausibilidade textual em vez de verificação factual
• Impacto: pode induzir erro de interpretação, decisões equivocadas e perda de confiança no sistema
Como a banca pode cobrar na prova:
• A banca geralmente apresenta uma definição e pede a identificação da característica principal, portanto memorize que a saída é falsa apesar de parecer correta.
• Fique atento porque questões podem confundir verossimilhança com verificação, então destaque a ausência de evidência concreta ao responder.
• Outro ponto frequente é relacionar alucinação ao funcionamento do modelo; saiba explicar o papel do objetivo probabilístico na geração de respostas.
• Lembre-se de que a alucinação não é apenas erro gramatical, é produção de conteúdo factualmente incorreto para não cair em alternativas erradas.
Conteúdo do catálogo FC Concursos · Atualizado em