Como se determina o ponto de uma reta r que está mais próximo de um ponto P?

O ponto é a projeção ortogonal de P sobre r: a interseção entre r e a perpendicular a r que passa por P.

Explicação:
Se r tem coeficiente angular \(m_r\), a perpendicular tem coeficiente \(m_s=-1/m_r\). Equacione a perpendicular passando por \(P(x_0,y_0)\): \(y-y_0=m_s(x-x_0)\). Ache a interseção entre essa reta e r resolvendo o sistema; esse ponto é o mais próximo de P.

Exemplo:
Se \(r: y=2x+1\) e \(P=(3,4)\):
\(m_r=2\Rightarrow m_s=-\tfrac{1}{2}\).
Perpendicular: \(y-4=-\tfrac{1}{2}(x-3)\Rightarrow y=-\tfrac{1}{2}x+\tfrac{11}{2}\).
Igualando com \(r\): \(2x+1=-\tfrac{1}{2}x+\tfrac{11}{2}\).
\(\tfrac{5}{2}x=\tfrac{9}{2}\Rightarrow x=\tfrac{9}{5}\).
\(y=2\cdot\tfrac{9}{5}+1=\tfrac{23}{5}\).
Portanto o ponto mais próximo é \(\big(\tfrac{9}{5},\tfrac{23}{5}\big)\).