O Reino da Germânia começou como a seção oriental do Império Carolíngio, que foi dividido pelo Tratado de Verdun em 843 (enquanto que a seção ocidental formou a França). Os governantes da área oriental passaram a se intitular rex Francorum (rei dos francos) e mais tarde simplesmente rex. Uma referência aos germanos, indicando o surgimento de algum tipo de "nação germânica", só apareceu depois do século XI, quando o papa se referiu ao seu inimigo Henrique IV como rex teutonicorum (rei dos Teutões), a fim de o rotular como estrangeiro. Os reis reagiram a isto usando constantemente o título de rex Romanorum, (rei dos Romanos), para enfatizar seu governo universal mesmo antes de se tornarem imperadores. Este título permaneceu até o fim do império em 1806 (contudo, para que não cause confusão, esses reis são chamados de reis da germânia, em assuntos a eles relacionados).

O reino nunca foi completamente hereditário, pelo contrário, ancestralidade era apenas um dos fatores que determinava a sucessão dos reis. O rei era formalmente eleito pelos líderes da nobreza no reino, continuando com a tradição dos francos. Aos poucos a eleição tornou-se um privilégio de um grupo de príncipes chamados de Eleitores, e a Bula Dourada de 1356 formalmente definia os procedimentos da eleição. Na Idade Média, o rei (rex Romanorum) não recebia o título de imperador (Imperator [Augustus] Romanorum) até ser coroado pelo papa. Ele também tinha que ser coroado com a Coroa de Ferro da Lombardia, após o que ele recebia o título de rex Italicum, (rei da Itália). Após isso ele subiria ao trono de Roma e seria coroado Sacro Imperador pelo Papa.