Γεννήθηκε σε μια πλούσια οικογένεια γαιοκτημόνων, δικηγόρων και πολιτικών, που όμως έχασε το μεγαλύτερο μέρος των κτημάτων της κατά την Μεξικανική Επανάσταση. Το 1925, ο πατέρας του δολοφονήθηκε εν μέσω του Πολέμου των Κριστέρος, εξέγερσης με θρησκευτικά κίνητρα και στόχο την ανατροπή της κυβέρνησης που είχε δημιουργηθεί μετά την Μεξικανική Επανάσταση. Στη διάρκεια της σύγκρουσης αυτής σκοτώθηκε και ο θείος του. Η μητέρα του πέθανε το 1927 από καρδιακή προσβολή και ο Ρούλφο μεγάλωσε σε ορφανοτροφείο διοικούμενο από Γαλλίδες μοναχές, από το οποίο είχε κακές αναμνήσεις και αποκαλούσε «σωφρονιστικό ίδρυμα». Η ταραχώδης περίοδος κατά την οποία μεγάλωσε, επηρέασε βαθιά τα βιβλία του, όπου πρωταγωνιστούν η φτώχεια και η βία.