Μέχρι το θάνατό του, ο Ρεμπώ ήταν γνωστός σε έναν περιορισμένο λογοτεχνικό κύκλο της αβάν-γκαρντ. Αρκετοί ποιητές του 20ού αιώνα επηρεάστηκαν από το έργο του, και ειδικότερα από την ελεύθερη φόρμα της ποίησής του, σε τέτοιο βαθμό ώστε να θεωρείται ένας από τους «πατέρες» του μοντερνισμού. Σημαντική επιρροή άσκησε στους Γάλλους υπερρεαλιστές, με τον Αντρέ Μπρετόν να τον ονομάζει «σουρρεαλιστή στην πρακτική της ζωής και αλλού», ενώ συχνά αναφέρεται και ως επιρροή των συγγραφέων της μπητ γενιάς. Ο Αμερικανός συγγραφέας Χένρυ Μίλλερ, εξέφρασε το δικό του θαυμασμό για το έργο και την προσωπικότητα του Ρεμπώ, στο βιβλίο του "Ο Καιρός των Δολοφόνων" (1956). Τόσο το λογοτεχνικό του έργο, όσο και και η περιπετειώδης ζωή του, διαμόρφωσαν την εικόνα ενός επαναστατικού καλλιτέχνη ή όπως τον αποκάλεσε ο Αλμπέρ Καμύ, ενός «ποιητή της εξέγερσης», αποτελώντας είδωλο των φοιτητών του Μάη του '68, διανοούμενων μουσικών ή ακόμα του κινήματος των ομοφυλόφιλων, εισάγοντας τα ρομαντικά ιδεώδη στον 20ο αιώνα.