Si dedicò sin da giovane a ricerche scientifiche che eseguiva cercando di spingere all'estremo limite l'accuratezza e la precisione delle misurazioni. Si interessò del calore e delle sue connessioni con l'elettricità e la meccanica. A 25 anni effettuò il primo tentativo di definire l'unità di misura della corrente elettrica, attualmente rappresentata dall'ampere. Nel 1841, indagando sugli effetti termici, inviò alla Royal Society un articolo in cui dimostrava che un conduttore attraversato da corrente elettrica produce calore in quantità proporzionale alla resistenza del conduttore e al quadrato della corrente stessa. Questo fenomeno è oggi chiamato effetto Joule.