Como se usa a matriz Hessiana para classificar um ponto crítico de uma função de duas variáveis?

Calcule \(D=f_{xx}f_{yy}- (f_{xy})^2\) no ponto crítico: se \(D>0\) e \(f_{xx}<0\) ⇒ máximo; se \(D>0\) e \(f_{xx}>0\) ⇒ mínimo; se \(D<0\) ⇒ ponto de sela; se \(D=0\) ⇒ teste inconclusivo.

Explicação e exemplo:
Seja \(f(x,y)=x^2+xy+y^2-6x-8y\).
Gradiente: \(f_x=2x+y-6,\; f_y=x+2y-8\).
Igualando a zero: \(\begin{cases}2x+y=6\\ x+2y=8\end{cases}\Rightarrow x=\tfrac{4}{3},\; y=\tfrac{10}{3}.\)
Hessiana: \(\begin{pmatrix}f_{xx}&f_{xy}\\[4pt]f_{xy}&f_{yy}\end{pmatrix}=\begin{pmatrix}2&1\\[4pt]1&2\end{pmatrix}.\)
Determinante: \(D=2\cdot2-1^2=3>0\) e \(f_{xx}=2>0\).
Logo, por serem \(D>0\) e \(f_{xx}>0\), o ponto \((\tfrac{4}{3},\tfrac{10}{3})\) é um mínimo local.

Exemplo: cálculo acima mostrando sistema, Hessiana e verificação de sinais.