Qual é a fórmula para o número de diagonais de um polígono com n lados e por que ela funciona?

\(D=\frac{n(n-3)}{2}\)

Justificativa:
De cada vértice partem conexões para os outros \(n-1\) vértices; excluindo os dois adjacentes restam \(n-3\) diagonais por vértice.
Somando nos \(n\) vértices obtemos \(n(n-3)\), mas cada diagonal foi contada duas vezes, portanto dividimos por 2, chegando a \(D=\frac{n(n-3)}{2}\).

exemplo:
Para um octógono (n=8): \(D=\frac{8(8-3)}{2}=\frac{8\cdot5}{2}=20\).