עד שנות ה-30 סימנה השדרה את גבולה המזרחי של יפו. ממזרח לה השתרעו הפרדסים של יפו, בתי הפרדסנים, ומספר בתי באר שנהרסו בהמשך לצורך הקמת בתי שיכונים עבור עולים חדשים לאחר קום המדינה. ממערב לשדרה, לעבר יפו העתיקה וחוף הים, החלו להתפתח שכונות יפו החדשה. השכונה הערבית הראשונה שהוקמה הייתה "שכונת אל נוזהא", שהשתרעה משני עברי השדרה שבפי הערבים נקראה "אל נוזהא" (הטיילת).
בשנת 1935 נחנכה כיכר העירייה יחד עם בניין העירייה החדש בפינת "דרך ירושלים" (כיום דרך בן צבי) שהייתה חלק מהדרך ההיסטורית יפו-ירושלים.
בזמן המנדט הבריטי הוקמו בשדרה מעגלי תנועה במפגשי הרחובות שהקנו לשדרה מראה אירופאי. לפי התכנון של הבריטים הייתה אמורה יפו להיות עיר רבת כיכרות, בסגנון ערים באירופה.
במהלך שנות ה-30 הכין האדריכל הבריטי הנרי קנדל תוכנית מתאר ראשונה לעיר יפו. התוכנית של קנדל נפסלה, ובשנת 1946 הוכנה תוכנית מתאר בקהיר על ידי ממשלת המנדט הבריטי בחסות עיריית יפו הערבית. המתכנן היה האדריכל המצרי עלי אלמאליגי מסעוד, שהוזמן באמצעות הנציגות הבריטית במצרים לעצב את העיר, ותכנן את הרחבת העיר מזרחה על השטח שבו היו הפרדסים. אלמאליגי מסעוד תכנן שדרות רחבות עם כיכרות עגולות או מרובעות במפגשים ביניהן, רעיון של עיר גנים בריטית או צרפתית. בסופו של דבר, יושם הרעיון רק על שדרות ירושלים. במרכז השדרה הוקם פארק מסוגנן, שאליו הגיעו משפחות ועוברי אורח. הוקמו גדרות עם עמודים, באותו הסגנון שבו עוצבו שדרות רוטשילד בתל אביב.
לאחר הקמת מדינת ישראל.
בתקופת כיבוש העיר יפו נקראה השדרה בשם רחוב מספר 1. מיד לאחר מלחמת העצמאות אוחדו הערים תל אביב ויפו תחת עירייה אחת, וכיוון שבתל אביב כבר היה רחוב המלך ג'ורג', שונה שמה של השדרה בשנת 1949 והיא נקראה על שם העיר ירושלים (את שמן של "שדרות ירושלים" בתל אביב הוחלט לשנות ל"שדרות הר ציון") וזאת, משום שהדרך לירושלים יצאה מן השדרה שביפו. עצי הפיקוס ודקל וושינגטניה המעטרים את השדרות ניטעו על ידי הסטודנטים של בית הספר החקלאי מקוה ישראל.
תוכנית עיר הגנים שתוכננה לעיר בתקופת השלטון הבריטי נגנזה, ובשנת 1954 החלה עיריית תל אביב בתכנון מחדש של יפו. באזור הדרום-מזרחי של השדרה הוקמו שכונות עבור עולים חדשים, על השטח שבו עמדו בעבר הפרדסים.
את השדרה קטעו בעבר כמה מעגלי תנועה, שנהרסו לאחר קום המדינה, כגון הכיכר שהייתה במרכז השדרה מול בניין העירייה במספר 45.
לאחר קום המדינה הוחלט להמשיך את סלילת השדרה לכיוון דרום וחיבורה אל "שדרות העצמאות" בבת ים. המשך השדרה הוקם ללא חנויות ובו שיכוני עולים. המשך סלילת השדרה התחיל בקרן הרחובות רחוב ארליך, והרחובות אדם מיצקביץ' ורחוב נס לגויים מול בית החולים צהלון, בדיוק במקום בו ניצב בעבר מעגל תנועה שנהרס לאחר קום המדינה.
בתקופת מלחמת ששת הימים, בשנת 1967, נהרס הפארק ששכן במרכז השדרה לצורך חפירת שוחות, והוקמו מספר מקלטים ושירותים ציבוריים לצדם.
בשנת 2008 נערכו חפירות הצלה ארכאולוגיות בכמה קטעים בחלקה הצפוני של השדרה במימון רשות העתיקות וחברת נת"ע - נתיבי תחבורה עירוניים כדי להכשיר את הקרקע לקראת סלילת הרכבת הקלה בתל אביב. בין הממצאים שנמצאו שרידים של מחיצות ששימשו לגינות בשדרה שהקים המושל הטורקי - ג'מאל פאשה וגם תותח מתקופת נפוליאון בונפרטה.
ביולי 2015 צוינו מלאת 100 שנים מאז הנחת אבן הפינה ותחילת סלילת השדרה.
שכונות לאורך השדרה.
כיום השדרה עוברת בתחומן של כמה שכונות: "שכונת נגה" (ליד אולם נגה), "פרדס דכה", "שכונת נוזהא", "צהלון", "שיכוני חיסכון", יפו א' (דקר), "יפו ג' (נווה גולן)", ויפו ד' (גבעת התמרים),
מבנים לאורך השדרה.
צפון השדרה.
בתחילת השדרה כמה בניינים חשובים והיסטוריים. בבית מס' 1 ברחוב (בקרן הרחובות אפ"ק 1 ואילת 2) נמצא בניין בנק אנגלו-פלשתינה (יפו), שבו שכן לאחר מלחמת העולם הראשונה בנק אנגלו-פלשתינה. ב-1 בינואר 1933 עבר הבנק לתל אביב. עד שנת 2015 שכן בבניין הסניף הראשי ביפו של ממשיכו, בנק לאומי לישראל, אז עבר הסניף למתחם חצרות יפו.
בין בניין הדואר לבין "קולנוע צליל", במספר 8, נמצא בניין שנבנה בשנות ה-20 של המאה הקודמת ושימש את שלטונות המנדט. היה בו סניף של רשת הכל בו והמעדניות Spinney's, ובהמשך ישבה בו הנהלת השק"ם. הבניין מתוכנן להפוך לבית מלון בוטיק.
בסמוך אליו במספר 4 (בית אלכאשף) שכנה גם קנטינת שק"ם, בבית המיועד כיום לשימור.
במספר 9 הוקם ב-1922 בית הקולנוע "נביל", לימים אולם נגה, שהיה קולנוע, ביתה הזמני של האופרה הישראלית החדשה ובית תיאטרון גשר.
המבנה במספר 11 ששימש לפני קום המדינה כתחנה ראשית של כירכרות, ומעליו הוקם מועדון הופעות עם "גג פתוח". המבנה הוכרז לשימור, במסגרת הקמתו של מדרחוב בת-עמי מצידו המזרחי. בשנת 1990 הוא שופץ, ונוספו לו כיסוי של אכסדרת עמודים עם מגדל תצפית קטן שאליו עברו דוכני הפלאפל וחנות הפרחים ששכנו ממול במרכז השדרה.
במספר 12 (פינת רחוב הדואר) נמצא בית הדואר המרכזי של יפו, שבו ישבה בעבר הנהלת השירות הבולאי. הבניין הוקם בשנת 1931 בתכנון האדריכל הבריטי אוסטן סיינט בארב הריסון, שגם תכנן את בניין הדואר המרכזי בירושלים במבנה דומה.
סביב כיכר העירייה.
בעבר היה מעגל תנועה ובתוכו מזרקה, מול הבניין בו שכן בעבר בניין עיריית יפו במספר 45. זוהי כיכר העירייה, שנקראת כיום על שם חסיד אומות העולם דימיטר פשב שהציל יהודים בבולגריה. כיום משמש בניין העירייה למגורים. לאחר קום המדינה הועתקה המזרקה לצידה המזרחי של השדרה, הוקמו סביבה גן ציבורי ומקלט, ומעגל התנועה נהרס. בשנת 2008 נהרסו גם הגן הציבורי והמקלט, לטובת רחבה ענקית ובניין המרכז הרפורמי "משכנות רות דניאל", במספר 47. עד שנת 1970 שכן בשטח זה "לונה פארק - יפו" שעבר לאחר מכן אל גני התערוכה בצפון העיר (ראו בערך - לונה פארק תל אביב). מולו, במספר 49, בצידה הדרומי של הכיכר נמצא מגדל דחף (בניין "מגדלות יפו" לשעבר), וממול בצידה המערבי של הכיכר במספר 38 נמצא בית הכנסת המרכזי של יפו שהוקם כמבנה של "הבנק הערבי" בשנת 1929.
דרום השדרה.
במספר 82 נמצא מסגד נוזהה במרכז שכונת נוזהה (אל נוזהא) שנבנה ב-1933 בכספי תרומתו של חאג' עלי חמיס. המבנה שימש גם את הספרייה המוסלמית הגדולה בארץ, ואת בית הדין השרעי של יפו. המסגד פעיל גם כיום, ושופץ בשנת 2016 ביחד עם סביל שהוקם בכניסה אל המסגד.
בסוף האזור המסחרי בשדרה, במספר 111 (בית איברהים זאפטה) שוכן מטה עמותת שר-אל. בסמוך אליו בית החולים צהלון (דג'אני) במספר 100 (פינת רחוב ארליך), שגם תוחם את שכונת צהלון ממזרח שנקראת על שמו. בצמוד אל בית החולים צהלון במספר 110 הוקם בניין משרדים של עיריית תל אביב. במרכז השדרה ממול שכן מבנה באר מים גדול, שנהרס כדי לפנות מקום להולכי רגל ושבילי אופניים.
בתי קולנוע.
בשדרות פעלו אולמות בתי קולנוע אחדים, ובהם קולנוע אלהמברה בבית מס' 39, שהשתכן בו לאחר מכן "תיאטרון אלהמברה", וכיום (2011) "המרכז הסיינטולוגי - יפו". במספר 41 עמד "קולנוע פארוק" (שנהרס בחלקו לאחר קום המדינה לצורך בניין מגורים), ובמספר 10 היה "קולנוע ראשיד" (שנקרא בהמשך "קולנוע צליל", וכיום "מועדון התיאטרון").
ממול, בבית מספר 5 בתחילתו של מדרחוב בת עמי, נמצא "קולנוע נוגה" (קולנוע נביל) אשר שימש כביתה של האופרה הישראלית החדשה עד שעברה בשנת 1994 למשכן לאמנויות הבמה בשדרות שאול המלך. מאז שנת 1999 הוא משמש כביתו של תיאטרון גשר. מתחם נוגה - הכולל כיכר עירונית, מדרחוב (שפעם היה מקורה), מזרקה, ברזייה וערוגות בושם - תוכנן בשנת 1990 על ידי האדריכל קלמן כ"ץ כחלק מתוכנית כוללת לשדרות ירושלים. הכיכר, המעוצבת ברוח יפואית, נוצרה למעשה "יש מאין", שכן לפניה היה במקום כביש.
כיכרות בשדרה.
לאורך הציר ההיסטורי של השדרה שכנו 3 כיכרות ראשיות. בתחילת השדרה שכן בית נבולסי (יפו) שחסם את השדרה, ולמעשה חסם אותה על ידי כיכר. במהלך שנות ה-70 נהרס, לצורך חיבור השדרה אל רחוב קויפמן ואל הטיילת. משם המשיכה השדרה אל כיכר סלמה, שהייתה "העתק מוקטן" של כיכר דיזנגוף בתל אביב, ובהמשך אל כיכר עיריית יפו.
מבנים במרכז השדרה.
לפני קום המדינה הוקמו במרכז השדרה מבני השנאה (טרנספורמציה), בארות מים, מבני שירותים, וכמה קיוסקים. לאחר קום המדינה הוקמו דוכנים של חנות פרחים ולידה דוכן פלאפל במרכז השדרה בסמוך אל מתחם תיאטרון גשר. במהלך השנים האחרונות ישנה מגמה להזיז את המבנים במרכז השדרה אל הצדדים, כדי לאפשר שטח פתוח להולכי רגל ולמסלולי אופניים. בנוסף לכך, נהרסים מבני השנאה היסטוריים שהיו מתוכננים להיות בתהליך של שימור למורת רוחם של אדריכלים ושל אנשי סביבה ושימור אתרים כדי לפנות מקום עבור הולכי רגל ושבילי אופניים.
שנאי החשמל ההיסטורי.
במרכז השדרה הוקמו כמה שנאי חשמל. הראשון והבולט מביניהם עמד בתחילת השדרה כאשר הוקמה העיר תל אביב, והיה דומה במראהו לשנאי ברחוב אילת הסמוך.
באר המים.
במרכז השדרה, מול בית החולים דג'ני, עמד מבנה גדול של "באר מים" ששימש לפני קום המדינה להשקיית העצים בשדרה ואספקת מים אל הפרדסים שהיו ממזרח לשדרה. בהמשך דרומה יותר שכנה בעבר באר מים קטנה יותר (מול גן דוידוף), שנהרסה לאחר פתיחת ציר חיים הלר ומחלף וולפסון.
המזרקה.
בשנת 1935 הוקמה המזרקה המפורסמת בכיכר העירייה. לאחר קום המדינה הוזזה המזרקה אל צידה המזרחי של השדרה, והוקמה מחדש בסגנון אירופאי עם עמודי תאורה מעוצבים כאשר מאחוריה הוקם גן ציבורי. לאחר מכן נהרס הגן יחד עם עמודי התאורה, לצורך הקמת כיכר ציבורית בשם כיכר דימיטר פשב שהיה חסיד אומות העולם מבולגריה.
הפביליון.