Giovanni, figlio di Gualberto, nacque probabilmente a Firenze o secondo altre fonti nel castello oggi villa di Poggio Petroio, in val di Pesa, intorno all'anno mille dalla nobile famiglia dei Visdomini o, secondo altre fonti, da quella dei Buondelmonti. Suo fratello Ugo venne assassinato e secondo i costumi del tempo Giovanni fu chiamato a vendicarne la morte con l'uccisione del rivale. La vendetta si doveva consumare fuori porta San Miniato a Firenze, ma secondo la leggenda agiografica, il suo avversario si inginocchiò e messo le braccia in forma di croce invocò pietà. Giovanni gettò la spada e concesse il perdono.