Ya'alon was born Moshe Smilansky, the son of David Smilansky and Batya Silber.
Ya'alon lahir dengan nama Moshe Smilansky, sebagai putra dari David Smilansky dan Batya Silber.