Nacido en Teherán (aunque sus padres eran oriundos de Isfahán), Mofaz llegó a Israel con sus padres en 1957. Al graduarse de la escuela secundaria se unió a las Fuerzas de Defensa Israelíes en 1966, y sirvió en la Brigada Paracaidista. Participó en la Guerra de los Seis Días, la Guerra de Yom Kipur, la Guerra del Líbano de 1982 y en la Operación Entebbe, con los paracaidistas y el Sayeret Matkal, una unidad de elite de las fuerzas especiales.