Carlos era o segundo filho de Leopoldo I da Germânia e de sua terceira esposa, Leonor Madalena do Palatinado-Neuburgo. Chegou a assumir o trono de e Castela, como Carlos III, tendo sido coroado em Madrid, mas abandonou a pretensão, ao assumir o trono austríaco. Não consta na lista de reis espanhóis, pois Filipe, duque de Anjou, finalmente obteve o trono como Filipe V de Espanha.

Educado por Anton Florian de Liechtenstein, foi o herdeiro contratado pelos Habsburgos espanhóis, ramo em extinção. Carlos II da Espanha fez seu herdeiro o duque de Anjou, que subiu ao trono espanhol como Filipe V, violando o contrato. A guerra pela coroa levou à Guerra da Sucessão Espanhola, nos anos finais do século XVII.