Inicialmente a força paramilitar nazista era a
SA ("
Sturmabteilung"), ou "Divisões de Assalto", que utilizava o terror junto aos inimigos dos nazistas, e era vista como semi-independente. O grupo se tornou uma ameaça ao poder de Hitler e aos poucos foi substituído pela SS, um grupo de elite que contava com homens racialmente selecionados e disciplinados.
A partir de 1939, sob o comando de Heinrich Himmler, a SS cresceu e chegou a contar com um exército próprio, a
Waffen SS ("SS Armada"), independente das forças armadas, a
Wehrmacht. Além disso a SS também absorveu a
Gestapo, a
polícia secreta nazista, a
Reichssicherheitshauptamt, o órgão que controlava as polícias, o
Sicherheitsdienst (SD), o
serviço de inteligência e o
Einsatzgruppen, grupos criados com a única intenção de exterminar grupos étnicos minoritários. Em 1939, a SS comandaria os
campos de concentração nos países ocupados.