Murray nacque a Cobourg, Provincia del Canada, da genitori scozzesi (Robert Murray, ragioniere, ed Elizabeth Macfarlane), emigrati sette anni prima. Fece ritorno in Scozia da ragazzo e fu istruito alla Stirling High School ed all'università di Edimburgo (1864–1865), abbandonando quasi subito per unirsi nel 1868 ad una caccia alla balena a Spitsbergen in qualità di chirurgo.