אלכסנדר רוצקוי נולד ב-1947 בעיר פרוסקורוב באוקראינה הסובייטית למשפחה בעלת מסורת צבאית. סבו, אלכסנדר איוואנוביץ' רוצקוי, שירת בחיל מסילות הברזל הרוסי. אביו, ולדימיר אלכסנדרוביץ' רוצקוי (1924–1991) שירת כקצין בחיל השריון של הצבא האדום (דרגתו האחרונה - סגן-אלוף). ולדימיר רוצקוי נטל חלק במלחמת העולם השנייה, השתתף בכיבוש ברלין . אמו, זינאידה יוסיפובנה, למדה בבית הספר לטכנאים ועבדה במגזר הציבורי.