Além das separações físicas e de provisões em instalações públicas e privadas (especialmente durante a era Jim Crow), o termo é amplamente usado para as barreiras legais de discriminação racial, que inclusive afetavam instituições governamentais. Por exemplo, nas forças armadas dos Estados Unidos até a década de 1950, negros possuíam quartéis e locais de treinamento separados dos brancos. Além disso, era proibido para para eles ascender a alguma patente de oficial, criando unidades de afro-americanos liderados por oficiais superiores brancos. No âmbito civil, áreas públicas como ônibus, salas de atendimento, lavanderias, parques e filas para serviços públicos, além de escolas e faculdades, eram segregados racialmente.

A segregação sempre existiu, mesmo após a emancipação dos escravos durante a Guerra Civil Americana. Ela se tornou institucionalizada nas décadas posteriores ao conflito. Em 1867, o Congresso dos Estados Unidos passou a Lei de Reconstrução para proteger os direitos a voto e para garantir que os estados da União tivessem suas próprias constituições, desde que não ferissem a constituição nacional. Em 9 de julho de 1868 foi aprovada a 14ª Emenda da Constituição que garantia e protegia a igualdade dos cidadãos perante a lei. Dois anos depois, a 3 de fevereiro, a 15ª Emenda é ratificada para garantir o sufrágio universal e impedir a discriminação baseada em raça ou cor neste direito. A presença de tropas federais no sul garantiu que estas leis fossem implementadas. A Lei da Reconstrução formalizou então a supremacia da lei federal sobre as estaduais, garantindo direitos iguais para todos. Contudo, as leis de Jim Crow espalharam-se, particularmente nos estados sulistas, mantendo-se firme e institucionalizando a segregação racial no começo do século XX. No norte também havia locais segregados, mas não geralmente por meio de leis mas sim por costumes e imposições sociais. O Partido Democrata dividiu-se nos caucus do sul (conservador) e do norte (liberal). Os sulistas apoiavam a segregação e pregavam a liberdade dos estados decidirem suas políticas. Os do norte eram mais progressistas e defendiam uma lei federal banindo a segregação.