Questão FC369913
O analista Jonas está desenvolvendo um Large Language Model (LLM) para ser utilizado nas soluções de inteligência artificial do MPU. Para isso, Jonas utilizou o modelo pré-treinado
Inteligência Artificial (IA)
FGV · 2025
O analista Jonas está desenvolvendo um Large Language Model (LLM) para ser utilizado nas soluções de inteligência artificial do MPU. Para isso, Jonas utilizou o modelo pré-treinado BERTimbau, mas observou que as respostas eram genéricas e não específicas para o domínio.
Para treinar um modelo pré-treinado adaptando-o às tarefas e aos conjuntos de dados específicos do domínio do MPU, Jonas deve realizar um(a):
- overfitting;
- regression;
- discretization;
- model fine-tuning;
- feature engineering.
Mostrar resposta e comentário
Gabarito
D
Comentário do professor
O procedimento indicado é o model fine-tuning, que consiste em continuar o treinamento de um modelo pré-treinado (como o BERTimbau) usando exemplos específicos do domínio e da tarefa alvo do MPU.
Durante o fine-tuning, ajustam‑se os pesos da rede com um conjunto de dados rotulados representativos — por exemplo, jurisprudência, peças processuais ou perguntas/respostas administrativas — para que o modelo aprenda padrões e vocabulário específicos.
Práticas importantes incluem usar learning rates menores, validação contínua, early stopping e técnicas de regularização para evitar overfitting. Também é comum empregar abordagens de eficiência como adapters ou LoRA quando os recursos são limitados.
O resultado é um modelo capaz de gerar respostas mais precisas e contextualizadas para as necessidades do MPU, preservando o conhecimento geral aprendido no pré‑treino.
Conteúdo do catálogo FC Concursos · Atualizado em