Julgue o item subsequente, a respeito de regressão logística. Na regressão logística por meio de aprendizado supervisionado, o emprego de função custo do tipo erro quadrático médio

Gabarito

Errado

Comentário do professor

Erro quadrático médio não é a escolha adequada para regressão logística. A previsão é feita por \(p(y=1|x)=\sigma(w^\top x)\) com \(\sigma(z)=1/(1+e^{-z})\). Aplicar MSE a \(\hat y=\sigma(w^\top x)\) geralmente produz uma função custo não convexa em \(w\), o que pode dificultar o aprendizado e levar a mínimos locais.

O custo padrão é a entropia cruzada (log-loss): \(J(w)=-\frac{1}{N}\sum [y\log\hat y+(1-y)\log(1-\hat y)]\), que é convexa em \(w\) para o modelo logístico, facilitando otimização.

Afirmar que algoritmos de gradiente têm "convergência quase-quadrática" é incorreto. Gradiente descendente apresenta taxa linear/sublinear; a convergência quadrática é característica de métodos de Newton próximos ao ótimo, não de algoritmos de gradiente simples.