בשנת תש""כ מנתה הישיבה 250 בחורים והבניין בשכונת גאולה היה קטן מדי. הרב סרנא העדיף שהישיבה תהיה בשכונה מרוחקת ממרכז העיר. לצורך כך תוכננה הקמת קרייה לישיבה, שתכיל בית מדרש, פנימיות ודירות לצוות. בנו של הרב משה חברוני, יצחק, מונה לאחראי על הקמת הקריה. הרב חברוני והרב כהן סייעו בגיוס כספים. בשנת תשכ""ב הונחה אבן הפינה בשכונת גבעת מרדכי והוחל בבניית המבנה החדש, כשבתחילה נבנה בית מדרש המתאים לכ-500 בחורים. בגמר הבנייה בתשל""ו (1976) אוכלס בית המדרש והחלו הלימודים במקום. עם השנים עלה מספר התלמידים ונבנה בית מדרש חדש שיוכל להכיל עד 1,400 מקומות ישיבה. לאחר כיבוש חברון במלחמת ששת הימים, ביקש הרב סרנא להקים את הישיבה מחדש בחברון, אבל השלטונות סרבו.[דרוש מקור]