Como se calcula a probabilidade de obter exatamente k elementos de um determinado tipo ao selecionar n itens aleatoriamente de uma população com N elementos, dos quais m são desse

Use combinações: casos favoráveis = C(m,k)·C(N-m,n-k), total = C(N,n), então
P = Casos favoráveis / Total = C(m,k)·C(N-m,n-k) / C(N,n).

Explicação passo a passo:
Ao querer exatamente k do tipo desejado, escolhemos k entre os m disponíveis e os n-k restantes entre os N-m não desejados.
Multiplica-se essas duas quantidades para obter os casos favoráveis e divide-se pelo total de formas de escolher n entre N.

Exemplo:
Urna com 5 bolas vermelhas e 8 azuis (total 13). Retira-se 4 bolas sem reposição. Probabilidade de exatamente 2 vermelhas:
\nP = \\dfrac{\\binom{5}{2}\\binom{8}{2}}{\\binom{13}{4}} = \\dfrac{10\\times28}{715} = \\dfrac{280}{715} = \\dfrac{56}{143}\n
Interpretação: C(5,2) conta as escolhas das 2 vermelhas; C(8,2) conta as escolhas das 2 azuis; C(13,4) é o total de retiradas possíveis.