Nacque ad Hannover nel 1738 da Isaac Herschel e Anna Ilse Moritzen. Il padre era un musicista della fanteria hannoveriana e riuscì a trasmettere a tutti i figli (di cui solo sei su dieci sopravvissero fino in età adulta), tranne che alla primogenita, la passione per la musica. All'età di quattordici anni, dopo aver ultimato gli studi presso la scuola della guarnigione, William entrò a far parte della banda del padre e, poco dopo lo scoppio della Guerra dei Sette Anni, lasciò il servizio militare per emigrare con il fratello Jacob in Inghilterra. Qui, in pochi anni, riuscì a conquistarsi una solida reputazione come solista (oboe e violino) e insegnante di musica. Da autodidatta, cominciò lo studio dell'astronomia e, nel 1776, cominciò anche a costruire i primi telescopi (dapprima di tipo gregoriano e poi di tipo newtoniano).