Giovan Battista Pellegrini, pur non frequentando praticamente l'Università a causa della guerra, si laurea a Padova con Carlo Tagliavini con una tesi su « I nomi locali del Medio ed Alto Cordevole ». Nel 1946 inizia la sua carriera accademica all'Università di Pisa in qualità di assistente di Filologia romanza, posto che occuperà per dieci anni fino al 1956, anno durante il quale vince il concorso di Storia della Lingua italiana, si trasferisce a Palermo, ove resterà fino al 1958, insegnandovi pure Glottologia e Filologia germanica. Insegnerà, in seguito, Storia della lingua italiana e Filologia romanza a Trieste, ed infine, Glottologia a Padova, dispensando, nel contempo, altri corsi, quali: Storia comparata delle lingue classiche, Linguistica ladina, Lingua e letteratura albanese.