Flashcard FC183327
Qual é o principal fator que contribui para o desaparecimento do gradiente em redes neurais?
Inteligência Artificial (IA)
CEBRASPE (CESPE) · 2022
Qual é o principal fator que contribui para o desaparecimento do gradiente em redes neurais?
Mostrar resposta e comentário
Resposta
O problema do desaparecimento do gradiente ocorre quando os gradientes das camadas iniciais se tornam muito pequenos, dificultando o aprendizado.
• Inicialização aleatória: ajuda a quebrar a simetria entre os neurônios, permitindo que eles aprendam características diferentes dos dados.
• Distribuição de pesos: ao usar valores aleatórios, os pesos são distribuídos de forma a manter os gradientes em um intervalo mais manejável, facilitando a retropropagação e melhorando o aprendizado da rede.
Veja como foi cobrado:
https://flashcardsconcursos.com.br/portal/flashcard/94694
Conteúdo do catálogo FC Concursos · Atualizado em