Horse ble født Michael James Heinrich i Yaqui-reservatet i Tucson, Arizona, men vokste opp i Los Angeles. Horse hevder være av indiansk avstamning med en blanding av Yaqui-Mescalero Apache-Zuni-indianer. Han har i tillegg svenske og spanske aner.