Se a demanda for maior que a capacidade produtiva, qual volume deve ser adotado para calcular receita, custos variáveis, despesas variáveis e resultado?

Usa-se o volume limitado pela capacidade produtiva.

Explicação:
Se a demanda excede a capacidade, a empresa só pode produzir e vender até sua capacidade máxima, portanto a receita e todos os custos variáveis e despesas variáveis devem ser calculados com esse volume, os custos fixos permanecem inalterados, o resultado é:
\(Resultado = Receita\ Total - (Custos\ Variáveis + Despesas\ Variáveis + Custos\ Fixos)\).

Exemplo:
Suponha preço de venda = R\$2,50, demanda = 10.000 unidades, capacidade = 8.000 unidades, custo variável unitário = R\$0,80, despesa variável = 5% do preço, custos fixos = R\$4.000.

\(Receita\ Total = R\$2{,}50 \times 8.000 = R\$20.000\)
\(Custos\ Variáveis = R\$0{,}80 \times 8.000 = R\$6.400\)
\(Despesa\ Variável\ por\ unidade = 0{,}05 \times R\$2{,}50 = R\$0{,}125\)
\(Despesa\ Variável\ total = R\$0{,}125 \times 8.000 = R\$1.000\)
\(Resultado = R\$20.000 - (R\$6.400 + R\$1.000 + R\$4.000) = R\$8.600\)