Nascido numa família pobre de pequenos fazendeiros, desde cedo Clyde começou seu envolvimento com a polícia e o crime. Aos 16 anos foi preso pela primeira vez ao fugir de um policial quando foi interpelado sobre um carro alugado em seu poder, que ele não havia devolvido à locadora no prazo certo. A segunda prisão, desta vez junto com seu irmão Buck, foi por roubar perus de uma propriedade.

Mesmo conseguindo pequenos trabalhos entre 1927 e 1929, Clyde continuou praticando pequenos furtos em lojas de conveniência e roubando carros. Apesar de ser principalmente reconhecido como assaltante de bancos, a preferência de Clyde era por pequenos roubos em postos de gasolina e lojas.