Sherman serviu sob o general Ulysses S. Grant em 1862 e 1863 durante as campanhas que levaram a queda do reduto confederado de Vicksburg no Rio Mississippi, culminando com o roteamento dos exércitos confederados no Tennessee. Sherman sucedeu Grant em 1864 como comandante da União no fronte ocidental. Ele procedeu para liderar suas tropas a captura de Atlanta, um sucesso militar que contribuiu para a reeleição do presidente Abraham Lincoln. A Marcha ao Mar subsequente de Sherman através da Geórgia e das Carolinas minaram ainda mais a capacidade confederada de continuar o confronto. Ele aceitou em abril de 1865 a rendição dos exércitos confederados na Geórgia, nas Carolinas e na Flórida.

Sherman tornou-se General Comandante do Exército quando Grant assumiu a presidência em 1869. Como tal, foi responsável pela participação americana nas guerras indígenas nos quinze anos seguintes. Ele recusou-se firmemente a ser puxado para a política e publicou em 1875 suas memórias, um dos mais conhecidos relatos em primeira mão da Guerra de Secessão. O historiador militar britânico B. H. Liddell Hart declarou que Sherman foi "o primeiro general moderno".