Marty forlot familien da han var 17 år og i 1943 gikk han inn i marinen, der han lærte seg å spille gitar, skrive låter og å like Hawaiimusikk. Etter at andre verdenskrig endte i 1945 og han ble dimittert fra det militære i 1947 begynte Robbins å spille og synge på lokale steder i Phoenix. Han fikk sin første platekontrakt med Columbia Records i 1951. Tidlig i 1952 ga han ut sin første singel; «Love Me or Leave Me Alone». Hverken den eller oppfølgeren, «Crying 'Cause I Love You», ble noen suksess. Gjennomslaget som artist kom i januar 1953 med låten «I'll Go On Alone», og hans største hit, låten «El Paso», lå på toppen av listene i 1959/1960.