Graziano proveniva da un'oscura famiglia cristiana originaria della città di Cibalae o Cibalis, nel sud della Pannonia (l'attuale Vinkovci, Croazia). Qui Graziano sembra aver sposato una donna del posto, da cui ebbe due figli: Valentiniano (321-375) e Valente (328-378).