Ksenofon syntyi ateenalaiseen ritariluokkaan ("hippeis") kuuluvaan perheeseen noin vuonna 431 eaa. Ksenofonin isä oli Gryllos ja äiti Diodora. Ritariluokkaan kuuluvien tuli olla tarpeeksi varakkaita varustaakseen itsensä ratsumiehiksi Ateenan armeijaan. Ksenofonin syntymän aikoihin peloponnesolaissota oli juuri alkanut ja se tuli jatkumaan aina vuoteen 404 eaa. asti. Ksenofon oli luultavasti tarpeeksi vanha ottaakseen itse osaa sotaan vuonna 409 eaa. Sodan loppuvuosien aikana Ateenan demokratia näytti huonoimmat puolensa, kun Arginusain taistelun hävinneet sotapäälliköt tuomittiin kuolemaan lainvastaisen oikeudenkäynnin jälkeen. Ksenofon saattoi hyvinkin olla paikalla oikeudenkäynnin aikana. Ainakin hän vastusti sen toimintaa, kuten käy ilmi hänen Kreikan historiaa käsittelevästä teoksestaan. Ksenofon oli luultavasti Ateenassa kolmenkymmenen tyrannin vallan aikana vuosina 404–403 eaa. Kun demokraatit palasivat valtaan Ateenassa vuonna 403 eaa. päätti Ksenofon jättää kaupungin.