נולד בעיר קובנה בליטא, למלכה ולרב יהודה לייב פרנק, מראשי אגודת חובבי ציון במקום. בילדותו עמד בקשר עם הרב יצחק אלחנן ספקטור, רבה של קובנה. למד בישיבת סלובודקה ובישיבת טלז, שבה זכה ליחס מיוחד מצד ראש הישיבה הרב אליעזר גורדון. עלה לארץ בשנת ה'תרנ"ג (1893), מעט קודם להוריו שהיו בין מייסדי המושבה חדרה, ובה כיהן אביו כרב הראשון, ובמשך תקופה גם כראש ועד המושבה. אחותו ינטא ציפורה נישאה לרב אברהם יעקב אורלנסקי, רבה של זכרון יעקב, שנרצח עם משפחתו בפרעות תרפ"ט בחברון.