Além de funções  policiais e de segurança tradicionalmente atribuídas ao Ministério do Interior, como o controle de tráfego, corpo de bombeiros e a guarda das fronteiras, cabia ao NKVD controlar a economia e o serviço secreto, prestando contas ao Conselho de Comissários do Povo (órgão principal do governo soviético) e ao Comitê Central do Partido Comunista de Toda a União (bolchevique).

No âmbito do NKVD estabeleceu-se o Gulag (ГУЛАГ, Главное Управление Лагерей, translit. Glavnoie Upravlenie Lagerei; Português: "Administração Central dos Campos"), órgão responsável pelo sistema de campos penais de trabalho.