Som forfatter ble Crumley særlig kjent for sine hardkokte krimromaner. Selv om han aldri skrev noen bestselgere, ble hans arbeide innen krimsjangeren anerkjent og ansett som kanskje den viktigste inspirasjonen for en generasjon krimforfattere som Michael Connelly, George Pelecanos og Dennis Lehane.