As origens do gênero se datam ao ano de 1984, com as canções "Rock Box", do Run-D.M.C. e "Rock Hard", do Beastie Boys. Inspirados em tais músicas, muitos artistas da segunda metade da década de 1980 começaram a misturar metal com o rap, aumentando consideravelmente a sua popularidade. Na década de 1990, o rap metal alcançou o seu ponto de maior sucesso, impulsionado por bandas como Rage Against the Machine, com letras precursoras, e Anthrax, que incorporou o rap no thrash metal. No início da década de 2000, o gênero sofreu um ponto importante de saturação, reconstituído por artistas como P.O.D., Limp Bizkit e o bem-sucedido álbum Hybrid Theory, do Linkin Park. Finalmente, no meio desta década, especialmente no ano de 2004, o rap metal sofreu um declínio causado pela separação de algumas bandas, e a mudança de estilo para o metal e o rock alternativo.

Desde sua permanência no cenário musical mainstream, principalmente a partir de meados da década de 1990, o rap metal tem sido frequentemente confundido e familiarizado com outros gêneros, dentre eles o rap rock, o rapcore e o nu metal. Ele também influenciou e tem uma grande semelhança com o funk metal.