Flashcard FC539815
Qual a diferença essencial entre gradient descent e o método de Newton na otimização de uma função custo?
Telecomunicações
CEBRASPE (CESPE) · 2025
Qual a diferença essencial entre gradient descent e o método de Newton na otimização de uma função custo?
Mostrar resposta e comentário
Resposta
Gradient descent usa aproximação de primeira ordem baseada no gradiente, enquanto o método de Newton usa aproximação de segunda ordem baseada na Hessiana.• Gradient descent: atualização por passo na direção oposta ao gradiente, sem uso de segundas derivadas, usando o vetor de derivadas parciais para otimizar o custo.
• Método de Newton: usa expansão de Taylor de segunda ordem e a matriz Hessiana de segundas derivadas para considerar a curvatura da função custo ao calcular o passo.
• Jacobiano e gradiente: jacobiano refere-se a funções vetoriais, para função custo escalar fala-se em gradiente e na segunda ordem em Hessiana.
• Regressão linear: custo quadrático e convexo podendo ser minimizado por gradient descent ou resolvido em forma fechada pela equação normal.
Veja como foi cobrado:
https://flashcardsconcursos.com.br/portal/flashcard/538743
Conteúdo do catálogo FC Concursos · Atualizado em