Gable ble født 1. februar 1901 i Cadiz i Ohio. Da han var sju måneder gammel døde hans mor. Da han var 16 år sluttet han på skolen og begynte å jobbe på en fabrikk. Etter at han så et stykke som imponerte ham, bestemte han seg for å bli skuespiller. Han begynte med å turnere med ulike teatergrupper av varierende kvalitet. Han skaffet seg også tidvis inntekter som selger og ved å jobbe i industrien.