Neumann nacque a Joachimsthal, Prussia, non lontano da Berlino. Nel 1815 interruppe i suoi studi a Berlino per servire l'esercito come volontario nella campagna contro Napoleone rimanendo ferito nella battaglia di Ligny. In seguito a questi fatti entrò come studente di teologia all'università di Berlino, ma presto cambiò percorso spostando i suoi interessi verso materie scientifiche.