Questão FC538743
Em relação ao aprendizado supervisionado aplicado a problemas de regressão linear, julgue o item que se segue. A técnica denominada gradient descent é aplicável à minimização da fu
Telecomunicações
CEBRASPE (CESPE) · 2025
Em relação ao aprendizado supervisionado aplicado a problemas de regressão linear, julgue o item que se segue.
A técnica denominada gradient descent é aplicável à minimização da função custo no processo de aprendizado supervisionado para regressão linear; nela se determina, a cada iteração do processo de aprendizado, uma aproximação de segunda ordem da função custo, por meio de uma expansão de Taylor, necessitando-se, assim, da determinação numérica do jacobiano da função custo, calculado com base nos parâmetros do modelo a ser ajustado.
Mostrar resposta e comentário
Gabarito
Errado
Comentário do professor
A afirmação é ERRADA porque confunde conceitos. A técnica gradient descent usa uma aproximação de primeira ordem, não de segunda ordem. A atualização típica é \(\theta \leftarrow \theta - \alpha \nabla_\theta J(\theta)\), dependente do gradiente (vetor de derivadas parciais), não de uma expansão de Taylor de segunda ordem.
A expansão de segunda ordem e o uso da matriz de segundas derivadas cabem ao método de Newton, que envolve a Hessiana \(H=\nabla^2_\theta J(\theta)\). O termo jacobiano refere-se a funções vetoriais; para uma função custo escalar fala-se em gradiente e, na segunda ordem, em Hessiana.
Em regressão linear o custo é quadrático e convexo, podendo-se usar gradient descent ou a equação normal \(\theta=(X^TX)^{-1}X^Ty\) para solução fechada.
Conteúdo do catálogo FC Concursos · Atualizado em