Flashcard FC517266
O stochastic gradient descent calcula o gradiente usando todas as amostras em cada iteração?
Telecomunicações
CEBRASPE (CESPE) · 2025
O stochastic gradient descent calcula o gradiente usando todas as amostras em cada iteração?
Mostrar resposta e comentário
Resposta
Não. No stochastic gradient descent o gradiente é estimado a partir de uma única amostra ou de um pequeno subconjunto por iteração, e não de todo o conjunto de treinamento.
• Stochastic Gradient Descent: atualiza parâmetros usando o gradiente estimado por uma única amostra por iteração, resultando em atualizações mais ruidosas porém mais rápidas por iteração.
• Batch Gradient Descent: calcula o gradiente sobre todo o conjunto de treinamento em cada iteração, usando a média dos gradientes de todas as amostras.
• Mini-batch: usa um pequeno subconjunto de amostras por iteração e equilibra ruído e eficiência computacional.
Veja como foi cobrado:
https://flashcardsconcursos.com.br/portal/flashcard/513438
Conteúdo do catálogo FC Concursos · Atualizado em