Questão FC373156
Uma equipe de Analistas está implementando um modelo LLM para uso no Tribunal Regional do Trabalho e precisa garantir que o modelo não gere respostas inapropriadas ou incorretas, m
Inteligência Artificial (IA)
FCC · 2025
Uma equipe de Analistas está implementando um modelo LLM para uso no Tribunal Regional do Trabalho e precisa garantir que o modelo não gere respostas inapropriadas ou incorretas, mantendo a relevância e coerência do conteúdo. Para ajustar o desempenho do modelo e evitar problemas como alucinações e vieses, eles optaram por
- utilizar Reinforcement Learming from Human Feedback (RLHF) para treinar o modelo a partir de respostas corrigidas por humanos.
- implementar fine-tuning com um conjunto de dados menor e mais específico, sem utilizar nenhum mecanismo de atenção para evitar sobrecarga de processamento.
- aumentar o número de tokens e embeddings durante o treinamento para que o modelo tenha mais dados contextuais disponíveis.
- reduzir o número de camadas de rede neural para minimizar o processamento e aumentar a velocidade de inferência, pois isso reduziria erros causados por dados não estruturados.
- usar o aprendizado zero-shot durante o treinamento, pois ele é suficiente para que o modelo aprenda a generalizar padrões sem supervisão.
Mostrar resposta e comentário
Gabarito
A
Comentário do professor
O uso de Reinforcement Learning from Human Feedback (RLHF) consiste em ensinar o LLM com base em correções e avaliações humanas, transformando esse julgamento em sinais de recompensa.
Processo: geram-se várias respostas do modelo; anotadores humanos corrigem ou ordenam essas respostas; esses rótulos treinam um modelo de recompensa; em seguida, aplica‑se aprendizado por reforço (p.ex. PPO) para otimizar o gerador segundo essa recompensa.
O efeito prático é reduzir alucinações e respostas inadequadas, melhorar coerência e alinhamento com normas do Tribunal, porque o modelo passa a priorizar saídas avaliadas como corretas pelos especialistas.
Requer guias de anotação bem definidos, diversidade de avaliadores e monitoramento contínuo, pois é custoso e depende da qualidade do feedback humano.
Conteúdo do catálogo FC Concursos · Atualizado em