Bandet kalte seg opprinnelig Shaky Hands, men ble tvunget til å endre navn for å unngå rettslig oppgjør med et band kalt The Shaky Hands fra Portland i Oregon. Cut Off Your Hands ble i etterkant intervjuet om navneskiftet av den newzealandske tv-kanalen TV3.