Hann fæddist í Flórens og var samþykktur sem óskilgetinn sonur Lorenzo di Piero de' Medici hertoga af Úrbínó þótt ýmsir telji að hann hafi í raun verið launsonur Giulio de' Medici sem síðar varð Klemens 7. páfi. Talið er að móðir hans hafi verið þeldökk vinnukona Medici-fjölskyldunnar. Vegna þess hve hann var dökkur yfirlitum var hann kallaður il moro. Þegar Karl 5. keisari rændi Róm árið 1527 gripu borgarbúar tækifærið og stofnuðu skammlíft lýðveldi. Medici-fjölskyldan flúði þá frá borginni. Klemens páfi samdi síðan um frið við keisarann og fékk hann til að koma Medici-fjölskyldunni aftur til valda í Flórens með hervaldi. Eftir umsátrið um Flórens, sem stóð frá október 1529 til ágúst 1530, náði fjölskyldan aftur völdum og Klemens gerði hinn nítján ára gamla Alessando að hertoga. Hann tók við völdum í borginni 5. júlí 1531.