סטייבלי נולד ביורק שבאנגליה והיה בנם של ויליאם סטייבלי ושל הנרייטה הנדרסון. בשנת 1798 הצטרף סטייבלי לצבא הבריטי לגדוד קייטנס, ועזר לדכא את המרד באירלנד באותה שנה. סטייבלי קיבל דרגת קצונה ב-4 ביולי 1804 וקיבל דרגת לוטננט ב-21 באפריל 1808. במאי 1809 הצטרף לכוחות הבריטיים בספרד ולחם כנגד צבאותיו של נפוליאון בונפרטה. סטייבלי השתתף בקרבות טאלאוורה, פונטס דה אונורו, ויטוריה, הפירנאים, טולוז, במצור של סיאודד רודריגו ובקרב באדאחוז. סטייבלי שירת בצרפת לאחר כיבושה, ונפצע בפריז על ידי חיילים צרפתים.