הישיבה עברה טלטלה קשה במהלך מלחמת העולם הראשונה וסבלה ממחסור חמור בהכנסות, כמו גם ממחלוקות פנימיות באשר לדרכיה העתידיות. הראשון לציון הרב יעקב מאיר ניסה לאחר המלחמה לשקם את הישיבה, אולם ההקצבה הזעומה יחסית לתלמידים והעדפת הדור הספרדי הצעיר ללמוד במוסדות השכלה כללית ופרקטית הקשו על מאמציו. בנוסף בשנת 1927 חלק ממבנה הישיבה קרס ברעידת האדמה שפגעה בירושלים. לבסוף התבטלה ישיבת תפארת ירושלים ונותר ממנה רק תלמוד התורה. ישיבת פורת יוסף הייתה היורשת שלה במובנים מסוימים, אם כי לימים היא הפגינה דפוסים שמרניים הרבה יותר ביחס למודרנה.