Som 19-åring ble han dømt til 15 år i fengsel for biltyveri og bevæpnet ran. Han slapp med tre år, som han sonet i San Quentin State Prison. Det var en Johnny Cash-konsert der i 1958 som fikk Merle til å delta i fengselsbandet. I 1960 ble han løslatt på prøve.