Figlio di Enrico IV e di Berta di Savoia, succedette al trono dopo la deposizione del fratello maggiore Corrado, avvenuta nell'aprile del 1098. Fu eletto il 10 maggio dello stesso anno rex Romanorum, e il 6 gennaio 1099 l'arcivescovo di Colonia, Ermanno III di Hochstaden, celebrò ad Aquisgrana la cerimonia dell'incoronazione.