Nato nella città di Germania nell'Illirico, Belisario intraprese la carriera militare, entrando a far parte dapprima delle guardie del corpo addette alla persona dell'Imperatore Giustino I (518-527) e poi diventando magister militum (generale). Si distinse nella guerra iberica contro i Sasanidi, per poi salvare il trono dell'imperatore Giustiniano sedando con successo la rivolta di Nika (532). Successivamente, Giustiniano gli affidò il comando delle sue grandi guerre di conquista in occidente: la prima, la guerra vandalica, combattuta contro il regno africano dei Vandali (533-534), la seconda, la guerra gotica, svoltasi nel regno d'Italia sotto il dominio degli Ostrogoti (535-540). Le due campagne ebbero buon esito: Belisario riuscì non solo a sottomettere tutto il Nord Africa e gran parte dell'Italia, ma anche a condurre il re vandalo Gelimero e il re goto Vitige in catene ai piedi di Giustiniano. In seguito alla vittoria africana, Giustiniano gli concesse il trionfo e l'onore del consolato per l'anno 535. Richiamato a Costantinopoli, fu inviato in Oriente contro i Persiani.