Atuou principalmente durante as décadas de 1950 e 1960. Embora tocasse antes de 1955, seus principais anos foram entre 1955 e 1967, durante os quais reformulou o jazz e influenciou gerações de outros músicos. As gravações de Coltrane foram prolíficas: ele lançou cerca de 50 gravações como líder nestes doze anos, e apareceu em outras tantas lideradas por outro músicos. Através de sua carreira, a música de Coltrane foi tomando progressivamente uma dimensão espiritual que iria consagrar seu legado musical.

Junto com os saxofonistas tenores Coleman Hawkins, Lester Young e Sonny Rollins, Coltrane mudou as perspectivas de seu instrumento. Coltrane recebeu uma citação especial do Prémio Pulitzer de Música em 2007, por sua "perita improvisação, musicalidade suprema e um dos ícones centrais na história do jazz".