Nascido no Punjab, Singh migrou com a família para a Índia em 1947. Graduou-se em Economia em Cambridge e concluiu seu doutorado em Oxford; ambas universidades britânicas. Na década de 1960, foi funcionário das Nações Unidas, tendo se aproximado da política quando Lalit Narayan Mishra o designou como Conselheiro do Ministério de Comércio Exterior. Durante os anos 1970 e 1980, Singh atuou em vários organismos do Governo de seu país; foi Conselheiro Econômico, presidente do Banco da Reserva e integrou a Comissão de Planejamento de Mishra.

Em 1991, quando o país passava por uma forte crise financeira, o então primeiro-ministro P. V. Narasimha Rao convidou Singh para assumir o Ministério das Finanças - foi o fato que marcou sua entrada definitiva na política. No governo Rao, apesar da forte oposição, Singh liderou um processo de reforma financeira de relativo sucesso. Embora sua ações tenham rendido grande apoio popular, seu partido não foi bem-sucedido nas eleições parlamentares de 1996. Consequentemente, durante o governo de Atal Bihari Vajpayee, Singh desempenhou o cargo de Líder da Oposição no Rajya Sabha.