Flashcard FC462659
O que é alucinação em modelos de linguagem?
Inteligência Artificial (IA)
O que é alucinação em modelos de linguagem?
Mostrar resposta e comentário
Resposta
A alucinação é a geração de informações factualmente incorretas ou não verificáveis por modelos de linguagem, mesmo que a saída pareça plausível.• Origem: decorre de limitações nos dados de treinamento, vieses estatísticos e falta de acesso a fatos atualizados
• Manifestações: afirmações inventadas, datas erradas, referências fictícias e detalhes inconsistentes
• Natureza: não é mentira intencional; é uma limitação estrutural do processo de geração probabilística
Como a banca pode cobrar na prova:
• A banca geralmente cobra definição e diferenciações conceituais entre erro intencional e limitação estrutural; entenda que não se trata de má-fé do sistema.
• Fique atento porque questões podem pedir exemplos de manifestações; memorize tipos comuns como datas falsas e referências inventadas.
• Outro ponto frequente é a causa raiz, então destaque o papel dos dados de treinamento e do mecanismo probabilístico do modelo.
• Lembre-se de que descrever a alucinação exige precisão conceitual para não confundir com simples imprecisão lexical.
Conteúdo do catálogo FC Concursos · Atualizado em