Era irmão do igualmente compositor
Michael Haydn, colega de Mozart em
Salzburgo, e do tenor Johann Evangelist Haydn, que mais tarde Joseph fará vir para Eszterhaza em 1763. Tendo vivido a maior parte da sua vida na
Áustria, Haydn passou a maior parte de sua carreira como músico de corte para a rica família dos Eszterházy. Isolado de outros compositores, foi, segundo ele próprio, “forçado a ser original”. O seu génio foi amplamente reconhecido durante a sua vida.