Arsenio nacque a Roma intorno al 354 dalla nobile famiglia senatoria dei "Surculi". Fu allievo di San Girolamo e conobbe anche l'insegnamento di Sant'Agostino e, per l'immensa conoscenza, soprattutto del greco, fu consigliato da papa Damaso, che lo aveva ordinato diacono della Chiesa di Roma, all'imperatore Teodosio I come precettore per i suoi due figli, Arcadio ed Onorio, e nel 383 si recò a Costantinopoli. Qui rimase per undici anni, durante i quali fu senatore e primo consigliere di Teodosio. I rapporti con Arcadio non erano però molto buoni; celebre è l'episodio in cui, durante una lezione, Teodosio vede il figlio seduto al posto di Arsenio e lo rimprovera spogliandolo persino delle insegne imperiali. Un altro episodio, invece, che vede punito Arcadio da parte di Arsenio, spinge il giovane principe a ordire, all'insaputa del padre, una congiura contro di lui, che però viene sventata dallo stesso Arsenio. In seguito a ciò e a una profonda crisi spirituale, durante la quale, chiedendo a Dio la via per la salvezza sentì una voce che diceva "fuggi gli uomini", decise di abbandonare, nel 394, la Corte, dove, secondo una leggenda, aveva a sua disposizione cento servitori, per ritirarsi nel deserto egiziano di Scete, vicino Alessandria, nonostante Teodosio fosse contrario e nonostante le scuse di Arcadio, e si stabilì presso una comunità di anacoreti, di cui era abate San Giovanni Nano. Quest'ultimo, appena Arsenio arrivò, volle metterlo alla prova e constatare il suo temperamento lanciandogli un tozzo di pane: Arsenio lo prese e ringraziò.