16 października 1859 na czele uzbrojonego oddziału usiłował wywołać powstanie niewolników na Południu Stanów Zjednoczonych, atakując arsenał w Harpers Ferry w stanie Wirginia. Pozbawiony obrony arsenał zdobył z łatwością, dokonał dwóch napadów na plantacje, uwalniając niewolników i zatrzymując plantatorów jako zakładników, jednak akcja nie spotkała się ze spodziewanym odzewem wśród niewolników. Gdy na miejsce przybyła kompania piechoty morskiej pod dowództwem ówczesnego pułkownika Lee, Brown zabarykadował się ze swymi ludźmi w parowozowni. Przez cały dzień bronił się mimo śmierci jednego ze swych synów i ciężkiego poranienia drugiego. Gdy jednak następnego dnia wojsku udało się wyważyć bramę, wzięto do niewoli rannego Browna i 4 jego ludzi (10 poległo, a 4 zbiegło). W kilka dni później sąd skazał Browna na śmierć przez powieszenie bez prawa do ułaskawienia. W czasie rozprawy Brown oświadczył, że wykonywał tylko wskazania Biblii. Odrzucił wniosek swego adwokata o traktowanie go jako niepoczytalnego. Jego spokojne i niezłomne zachowanie się przed sądem oraz w czasie egzekucji wywołało wielkie wrażenie. W wielu miejscowościach bito w dzwony i odbyły się zebrania oraz nabożeństwa ku jego czci.