Oreste est né à Petavium (aujourd'hui Donji Miholjac), bourgade de Pannonie sur la Drave (affluent du Danube), vers 420, dans une riche famille romaine proche de la cour impériale. Son père fut un certain Tatulus, d'origine germanique, mais il fut adopté par le Comte de Norique Romulus, qui prétendait descendre du roi de Rome Romulus. Il fut un très proche collaborateur d'Attila (vraisemblablement son secrétaire).