שמח'אני נולד ב-29 בספטמבר 1955 באהוואז שבח'וזסתאן, איראן, למשפחה ממוצא ערבי. לפני המהפכה האיראנית, שמח'אני היה חבר בקבוצת גרילה איסלאמיסטית חשאית בשם "מנסורון", שהייתה מעורבת במאבק מזוין נגד שושלת פהלווי. לאחר המהפכה הוא הצטרף למוג'אהדין של המהפכה האסלאמית. הוא למד הנדסה ב'אוניברסיטת שהיד צ'מראן באהוואז'.