צבי קרול נולד בעיירה קלינקוביץ (ברוסית: Калинковичи) שבפלך מינסק שברוסיה (רוסיה הלבנה), באזור פולסיה, בתחום המושב היהודי, באביב תרס"ז (1907), בנם של נחמה לבית גלוברמן והרב מרדכי קרול (בעל ייחוס רבני: מצאצאי ר' אברהם הכהן מקליסק ור' יום-טוב ליפמן הלר), במשפחה בת שנים-עשר ילדים. למד בחדרים, ולאחר מכן למד בבית ספר ממשלתי, וקיבל חינוך תורני מאביו. בנעוריו הצטרף לתנועת "החלוץ" (במחתרת), וב-1925 עלה לארץ ישראל. בארץ עבד כפועל בעמק יזרעאל, ואחר-כך בפרדס של דודו הנודע יעקב קרול בפתח תקווה (הראשון שהנהיג עבודה עברית). לאחר מכן למד באוניברסיטה העברית בירושלים במשך חמש שנים. שם החל את דרכו הספרותית, ובשנים 1931–1933 היה חבר הוועד והמזכיר של אגודת הסופרים בירושלים.