Krylov ble født i Moskva, men tilbragte sine tidlige år i Orenburg og Tver. Han var sønn av en lavættet, men distingvert arméoffiser og mistet faren sin tidlig. Han fikk en begrenset oppdragelse og opparbeidet seg med tiden betydelige språkkunnskaper.