Flashcard FC213978
O que a função de ativação ReLU faz com entradas negativas e positivas?
Inteligência Artificial (IA)
CESGRANRIO · 2024
O que a função de ativação ReLU faz com entradas negativas e positivas?
Mostrar resposta e comentário
Resposta
Zera entradas negativas e mantém as positivas; f(x)=max(0,x).
A ReLU transforma qualquer x≤0 em 0 e mantém x>0 como está, gerando ativação esparsa e um gradiente simples: f'(x)=1 para x>0 e f'(x)=0 para x<0, o que facilita a propagação do gradiente e é computacionalmente eficiente.
Exemplo:
\(f(x)=\max(0,x)\)
\(f(-1.5)=\max(0,-1.5)=0\)
\(f(0.8)=\max(0,0.8)=0.8\)
\(f(3.2)=\max(0,3.2)=3.2\)
Assim, apenas o valor negativo foi zerado; os valores positivos permaneceram iguais, ilustrando o comportamento central da ReLU.
A ReLU transforma qualquer x≤0 em 0 e mantém x>0 como está, gerando ativação esparsa e um gradiente simples: f'(x)=1 para x>0 e f'(x)=0 para x<0, o que facilita a propagação do gradiente e é computacionalmente eficiente.
Exemplo:
\(f(x)=\max(0,x)\)
\(f(-1.5)=\max(0,-1.5)=0\)
\(f(0.8)=\max(0,0.8)=0.8\)
\(f(3.2)=\max(0,3.2)=3.2\)
Assim, apenas o valor negativo foi zerado; os valores positivos permaneceram iguais, ilustrando o comportamento central da ReLU.
Veja como foi cobrado:
https://flashcardsconcursos.com.br/portal/flashcard/213572
Conteúdo do catálogo FC Concursos · Atualizado em