אלכסנדר יולין נולד בעיר בילה צרקווה (אז בתחומי האימפריה הרוסית, כיום באוקראינה). כשהיה בן שנתיים היגר אביו לארצות הברית. אימו נסעה עם אלכסנדר בעקבותיו, אך נתקעה בלטביה עקב פריצת מלחמת העולם הראשונה. לאחר שהות של מספר שנים בלטביה נאלצה המשפחה לחזור לאוקראינה. הם התיישבו בקייב. היה חבר בארגון הנוער הקומוניסטי הקומסומול. שירת כקצין בצבא האדום, והשתתף במלחמת רוסיה - פינלנד בשנת 1939.