וילנאי נולד בשנת 1900 בקישינב, אז חלק מהאימפריה הרוסית. לאחר פרעות קישינב, בשנת 1906 עלתה משפחתו לארץ ישראל. למד בבית הספר הריאלי בחיפה והיה תלמידו של פנחס כהן וחבר באגודת המשוטטים שהקים מורו. לאחר תום לימודי התיכון המשיך ולמד במכללה לחינוך ע"ש דוד ילין ולאחריהם בשנת 1922, עסק בהדרכה בידיעת הארץ, בטיולים מטעם ועדת התרבות של הסתדרות העובדים וכן נתן הרצאות בליווי תמונות שהוקרנו בפנס קסם. לאחר מכן יצא ללימודים גבוהים בלונדון ופילדלפיה וקיבל תואר דוקטור על עבודת המחקר שלו על שמות היישובים בארץ ישראל.