Questão FC513441
Julgue o item subsequente, a respeito de regressão logística. O algoritmo de minimização da função custo do processo de aprendizado supervisionado aplicado à regressão logística co
Telecomunicações
CEBRASPE (CESPE) · 2025
Julgue o item subsequente, a respeito de regressão logística.
O algoritmo de minimização da função custo do processo de aprendizado supervisionado aplicado à regressão logística com a hipótese do modelo definida a partir da função sigmoide não é imune ao overfitting, que pode ser mitigado por meio de técnica de regularização.
Mostrar resposta e comentário
Gabarito
Certo
Comentário do professor
Regressão logística usa a função sigmoide como hipótese e minimiza uma função custo de entropia cruzada para ajustar os parâmetros via algoritmos como gradiente descendente ou Newton. Mesmo com essa formulação, o modelo não é imune ao overfitting, pois a minimização busca reduzir o erro nos dados de treino e pode ajustar ruído quando há muitas variáveis ou poucos exemplos.
Para mitigar o problema aplica-se regularização, que adiciona uma penalidade aos pesos no custo. Exemplo com penalização L2: \(J(\theta)=-\frac{1}{m}\sum_{i=1}^m\big[y^{(i)}\log h_\theta(x^{(i)})+(1-y^{(i)})\log(1-h_\theta(x^{(i)}))\big]+\frac{\lambda}{2m}\sum_{j=1}^n\theta_j^2\).\
A regularização reduz magnitudes dos coeficientes, controla complexidade e melhora generalização. A escolha de \(\lambda\) deve ser feita por validação cruzada. L1 também é usada quando se deseja esparsidade.
Conteúdo do catálogo FC Concursos · Atualizado em