יוסף הטב גדל בשכונת פועלים בפאתי פריז והיה מבין היהודים היחידים בכיתתו. בהיותו תלמיד מצטיין, הוכוון לטכנאות רכב. בגיל 15 כאשר סיים את לימודי המכונאות עבר לבית ספר תיכון יהודי יהודי על-שם הרמב"ם, ובסיום התיכון קיבל תעודת בגרות עיונית במגמה ראלית. בשנת 1960, לאחר שמנהל בית הספר שבו למד הציע לו להתחזק ביהדותו, הגיע לראשונה לישראל, לשנת לימודים ב'מכון גולד' להכשרת מורים בירושלים. במהלך אותה שנה החליט שעם סיום לימודי הרפואה יעלה לארץ. את לימודי הרפואה החל השנת 1961 בשטרסבורג, צרפת, שם הכיר את קלודין בלום, והם נישאו בשנת 1965. את יתרת לימודי הרפואה השלים בפריז, ובמקביל ללימודיו עבד לפרנסתו בהוראת עברית ויהדות והכשרת בני מצווה לקריאה בתורה. באוקטובר 1969 עלה לארץ עם אשתו ושתי בנותיו והם קבעו את משכנם בירושלים. לאחר עלייתו לארץ, התגייס לצה"ל כרופא מילואים. הוא סיים קורס קציני רפואה, וזמן קצר לאחר מכן, הצטרף לכוח צה"ל שירד לתעלת סואץ ובמהלך כל מלחמת יום הכיפורים תפקד כרופא צבאי בחזית הדרום. יוסי שירת במשך שנים רבות במילואים, השתתף במלחמת שלום הגליל והשתחרר בדרגת רס"ן.