Qual a diferença fundamental entre caducidade e anulação de uma concessão pública?

Caducidade: extinção por sanção administrativa decorrente de inexecução total ou parcial do contrato pelo concessionário.
Anulação: extinção por vício de legalidade no ato que originou a concessão, declarada pela autoridade competente ou pelo Judiciário.

Explicação:
Caducidade ocorre quando o concessionário deixa de cumprir obrigações contratuais ou legais (má execução, paralisação do serviço sem causa justificada, descumprimento de intimações etc.), sendo aplicada pelo poder concedente como medida administrativa.
Anulação se dá quando o próprio ato de concessão apresenta ilegalidade ou ilegitimidade (por exemplo, fraude no procedimento de outorga ou falta de competência do agente que celebrou o contrato); pode ser declarada pela administração ou imposta pelo Judiciário, e acarreta responsabilização de quem praticou o vício.

Exemplo:
Uma empresa obtém concessão para administrar um sistema de abastecimento e, após a vigência do contrato, verifica-se que apresentou documentação falsificada para vencer a seleção pública — nesse caso, a concessão pode ser anulada pela autoridade ou pelo Judiciário em razão do vício de legalidade, com responsabilização dos responsáveis.

Outra situação: a concessionária de transporte metropolitano deixa de realizar as obras de modernização previstas no contrato e interrompe linhas importantes, apesar de sucessivas notificações — isso pode ensejar a caducidade do contrato por inexecução contratual.