Flashcard FC462665
Como instruções de honestidade no prompt influenciam alucinações?
Inteligência Artificial (IA)
Como instruções de honestidade no prompt influenciam alucinações?
Mostrar resposta e comentário
Resposta
Instruções que pedem honestidade podem reduzir ocorrências de alucinação, mas não as eliminam por completo, pois o problema é estrutural.• Efeito: melhora probabilidade do modelo admitir incerteza e buscar fontes
• Limite: não substitui verificação e recuperação de evidência
• Uso prático: combinar instrução de honestidade com RAG e checagem automática para melhor resultado
Como a banca pode cobrar na prova:
• A banca frequentemente pede para avaliar eficácia de prompts de honestidade; explique que ajudam mas não resolvem a raiz do problema.
• Fique atento porque alternativas podem exagerar eficácia das instruções; escolha a que reconhece a necessidade de mecanismos complementares.
• Outro foco comum é pedir uma estratégia combinada; destaque integração com RAG e verificação.
• Lembre-se de que a resposta deve indicar limitações técnicas além do efeito psicológico do prompt.
Conteúdo do catálogo FC Concursos · Atualizado em