Da han omsider slapp ut, dannet han røverbanden «The Wild Bunch». Det mest kjente medlemmet i gruppen var Harry Alonzo Longabaugh, som i likhet med Parker hadde vært i fengsel for å stjele hester. Han hadde vært fengslet i Sundance Prison i Wyoming og fikk av den grunn kallenavnet «Sundance Kid». Fra 1896 til 1901 stod banden bak mer enn ett dusin tog- og bankran. I 1901 flyttet Sundance og Butch Cassidy til New York.