על אף התנגדויות שונות של חלק מחברי מועצת העיר (חלקם טענו שלא ראוי שבניין העירייה יכיל בניין קולנוע), הוחלט ב-1951 להמשיך עם התוכנית, אולם בשל עיכובים שונים החליטה חברת פוקס לוותר על שיתוף הפעולה, ובמגרש הוצבה בשנת 1956 מנורת הכנסת מעשה ידי הפסל בנו אלקן.
ראש עיריית ירושלים, מרדכי איש שלום, בחן חלופות נוספות לבניין עירייה מרכזי, בין היתר במקום בו היה בית החולים עזרת נשים (מול בנייני האומה), וכן בסמוך לשכונת שערי חסד (המקום בו נבנו מגדלי וולפסון). מועצת העירייה התנגדה לבניית בניין עירייה בכניסה לעיר (ולכן דחתה מאוחר יותר גם תוכנית להקמת בניין העירייה בשדרות הרצל, למול בניין בנק ישראל).
לבסוף החליטה העירייה להקים את בניין העירייה החדש במגרש בין רחוב המלך ג'ורג' וגן העצמאות. ועדה שבראשה עמד המהנדס שלמה גור הוקמה בשנת 1962 וזו המליצה על הקמת בניין העירייה ברחוב המלך ג'ורג' והציעה שהבניין יכלול כיכר עירייה לטקסים עירוניים, וחדר מועצה ממנו ניתן יהיה לראות את נוף העיר ירושלים.
האדריכל יוסף קלרוין תמך אף הוא בהקמת בניין העירייה במקום האמור בסמוך לגן העצמאות בשל הנוף הנשקף ממגרש זה (נוף העיר העתיקה) ושטחי גן העצמאות הפתוחים מצדו האחד של המגרש.
תוכנית מנספלד.
ביולי 1964 הכריזה העירייה על תחרות אדריכלים פומבית לתכנון בניין העירייה. שופטי התחרות היו ראש העירייה מרדכי איש שלום, חברי מועצה של העירייה (חיים מרינוב, אקסלרוד ויעקובי) האדריכלים אבא אלחנני, ויקובר, יסקי, ושרון, האדריכל האיטלקי ארנסטו רוג'רס ומהנדס העיר יפה. הפרס הראשון בתחרות עמד על 15,000 לירות ישראליות.
במסגרת התחרות הוצעו 52 הצעות, ותוכנית הפרופסור אלפרד מנספלד מחיפה זכתה במקום הראשון. תוכנית נוספת של מנספלד זכתה במקום השני.
עם בחירתו של טדי קולק לראש העיר בשנת 1965 החליט קולק שלא להקים את בניין העירייה במיקום זה. לימים הוקם במקום בניין רב-קומות בהתאם לתוכנית מנספלד השנייה - כיום ידוע כמלון לאונרדו פלאזה ירושלים.
תוכנית כהנא.
בעקבות ביטול תוכנית מנספלד לבניית בניין העירייה ברחוב המלך ג'ורג', הכין בשנים 1966–1967 האדריכל אריה כהנא, שעבד במחלקה לתכנון העיר בעיירת ירושלים, תוכנית לבניית בניין עירייה צפונית לגן דניאל ובסמוך למגרש הרוסים. התוכנית התפרסמה באפריל 1967 וכללה שני שלבים - ובמסגרתה, בשלב הראשון הוצע לשפץ את בניין החברה התנ"כית, בית ברגהיים, בניין הזואולוגיה ובניין סיטון ולהרוס את בניין הבייגלמאכער, וזאת על מנת לרכז את מבני העירייה בבניינים אלה במקום שיהיו פזורים ברחבי העיר.
בהמשך, בשלב השני של התוכנית, הוצע להרוס את בניין הזואולוגיה, בית סיטון, בניין אביחיל, בניין הקונסוליה הרוסית והיכל הגבורה ולבנות במקום מבנה מודרני ורחבה גדולה. התוכנית יצאה מנקודת הנחה ששימור בניינים היסטוריים במרכזה של הבירה מיותר לאור שוויים הרב של המגרשים, ולדברי התוכנית "אין להגזים בהתחשבות בסנטימנטים של ותיקי ירושלים, במיוחד לנוכח בניינים בעלי ערך אמנותי מוגבל כמו חלק ממבני מגרש הרוסים והבניינים הארמניים".
בדיעבד, חלקים מהתוכנית התקבלו, אולם ההשקפות המודרניות של שימור בניינים היסטוריים הביאו לכך שרק חלקה הראשון של התוכנית בוצע לבסוף.
תוכנית השמשוני.
לאחר איחוד שני חלקי העיר ירושלים בשנת 1967, הוכנה תוכנית אב על ידי ציון השמשוני, יוסף שביד ואביה השמשוני בשנת 1968. במסגרת תוכנית זו הוצע להקים שני מוקדי שלטון בירושלים - מוקד שלטון ארצי בגבעת רם ומוקד שלטון מוניציפלי במגרש הרוסים. אזור מגרש הרוסים נבחר לאחר בחינת מספר חלופות, ובהן השטח למול שער שכם. במסגרת התוכנית הוצע לרכז במגרש הרוסים את כל משרדי העירייה, וזאת על מנת שהמרכז המוניציפלי יוכל לקשר בין שני חלקי העיר המאוחדת, ויהיה בקרבת אזורי העסקים העיקריים של העיר (הרחובות יפו, בן יהודה והמלך ג'ורג'). שיקול נוסף היה העובדה שמרבית השטח במגרש הרוסים היה בבעלות מינהל מקרקעי ישראל.
גם במסגרת התוכנית שהוכנה על בסיס תוכנית האב הוצע בשנת 1970 להרוס את בניין אביחיל, בניין הקונסוליה הרוסית והיכל הגבורה (וכן את מבנה השער הרוסי של מגרש הרוסים), אולם הוצע לשמר את בניין החברה התנ"כית, בניין עיריית ירושלים ההיסטורי, בניין הזואולוגיה וגן דניאל.
בין השיקולים שנשקלו בהחלטה להקים במקום את קריית העירייה היו העובדה שהחל מתקופת המנדט הבריטי היה אזור מגרש הרוסים ורחוב יפו אזור שלטוני (בו נבנו בניין בנק לאומי, בניין הדואר המרכזי, בניין עיריית ירושלים ההיסטורי ובניין ג'נרלי), כמו כן, באותה עת שכנו במגרש הרוסים המפקדה של משטרת ישראל ובית המשפט העליון.
תוכניות מנספלד 1972 - 1975.
בעקבות תוכנית השמשוני, התבקש האדריכל אלפרד מנספלד להכין תוכנית ספציפית לקריית העירייה. בין השנים 1972–1975 הגיש פרופסור מנספלד לעירייה שבע תוכניות חליפיות, כאשר האחרונה שבהן הוגשה לאישור ועדת התכנון האזורית.
אלפרד מנספלד הציע הקמת מבנה מודולרי (הדומה למבנה מוזיאון ישראל במודולריות שלו, וכן דומה למבנה שתוכנן על ידי האדריכל היפני קנזו טנגה בטוקיו ומתחם נוסף שתכנן טנגה בעיר קופו). מנספלד הציע להקים מספר רב של מבנים ריבועיים מקושרים, שכל אחד מהם בגודל של 66 על 66 מטרים ושטחם הכולל 144,000 מ"ר (אף שהתבקש לתכנן מבנה בגודל 80,000 מ"ר). התוכנית כללה שני מגדלים שנועדו לשמש כמבנים מוניציפליים (האחד, מגדל שאורכו 100 מטרים, רוחבו 14 מטרים, וגובהו 20 קומות; והשני, זהה באורכו וברוחבו, אולם בגובה 16 קומות בלבד), רחבה גדולה בין שני המבנים עבור כיכר עירונית, בניין נפרד למועצת העירייה, וכן בנייני מסחר נוספים. מנספלד הציע להקים מספר גושי בניינים, ולא בניין אחד לגובה, וזאת על מנת ליצור אזור קוהרנטי ואחיד במראהו.
רבים התנגדו לתוכניתו של מנספלד בטענה שזו אינה מתאימה לאופי ההיסטורי של מגרש הרוסים מחד, ולאופי המנדטורי של רחוב יפו הסמוך מאידך, וכי ההנחה שהמבנים ייבנו לאורך השנים בצורה אחידה אינה מציאותית בשל קשיים תקציביים, ולבסוף יוותר רק חלק קטן מהמבנים והאפקט האחיד שתוכנן לאזור לא ייבנה. בעקבות הביקורת, הגיש מנספלד תוכנית נוספת, בשטח של 80,000 מ"ר (כפי שהתבקש לעשות מלכתחילה), במסגרתה הוקטנו המגדלים והוצעו פחות מבנים. במסגרת התוכנית המצומצמת הוצע להקים בניין בצורת האות ר ששטחו 40,000 מ"ר שישמש את העירייה, כאשר במקום המפגש בין שתי צלעות המבנה יבנה מגדל בגובה 14 קומות בו תהיה מועצת העיר. מבנה זה צפוי היה להיבנות במקום בו בנוי כיום בניין מועצת עיריית ירושלים, בניין המשרדים החדש (שנמצא דרומית מערבית לכיכר ספרא) ובניין אביחיל (שאמור היה להיהרס). חלקו השני של המתחם צפוי היה להיבנות צפונה לבניין העירייה, במקום בו נמצאים מבני מגרש הרוסים (אשר, למעט מבנה הכנסייה הרוסית, היו צפויים להיהרס).
צוות העירייה התנגד לבניית מגדל שגובהו 14 קומות, ודרש הקמת מגדל בגובה שלא יעלה על 8 קומות (גובהם של יתר המבנים עמד על 6 קומות). מנספלד הציע כי המגדל יהיה מגדל תצפית צר שגובהו 120 מטרים, קוטרו 9 מטרים ובראשו מסעדה, ואף הצעה זו נדחתה מחשש שהדבר יוביל לבניית מגדלים נוספים בעיר, אולם הוסכם כי מגדל בגובה 60 מטרים (בדומה למגדל בניין ימק"א הסמוך) אפשרי במסגרת המגבלות התכנוניות.
תוכניתו של מנספלד מיקמה את בנייני העירייה דרומית לכנסייה רוסית ואת הבניינים המסחריים צפונית לכנסייה, ולכן הייתה הכנסייה הרוסית במרכז כיכר העיר, דבר שעורר התנגדות בקרב ועדות התכנון, שלא רצו אלמנט נוצרי במרכז הכיכר הראשית של העירייה. התוכנית כללה הריסת בניין אכסניית הנשים הרוסית אולם בשל חשיבותו ההיסטורית של המבנה המשמש כמוזיאון אסירי המחתרות הופעל לחץ פוליטי רב, ולאחר עליית הליכוד לשלטון בשנת 1977 פנה ראש ממשלת ישראל מנחם בגין לראש העיר טדי קולק וביקש ממנו לבטל את התוכניות להרוס את המבנה ולא לבנות בסמוך אליו, אלא לייעד את כל אזור המבנה כאזור היסטורי. טדי קולק נענה לבקשה, והוחלט שלא לבנות את המתחם במגרש הרוסים, אלא דרומית לו.
תוכנית ניב.
בעקבות הלחץ הפוליטי והציבורי נגד תוכנית מנספלד, פנה בשנת 1979 טדי קולק למהנדס העיר, האדריכל אמנון ניב וביקש כי יגבש תוכנית חדשה, אשר לא תפגע בבניינים ההיסטוריים שבאזור מגרש הרוסים. ניב, יחד עם האדריכלים יוסף בלום ואיילה ליפשיץ, הכין תוכנית שהוגשה לעירייה בשנת 1983. במסגרת תוכנית זו הוצע להקים קריית עירייה תוך שימור בניין עיריית ירושלים ההיסטורי, בניין החברה התנ"כית, בית ברגהיים, בניין הזואולוגיה, בניין אביחיל, בניין הקונסוליה הרוסית, בית סיטון והבניינים הארמניים לאורך רחוב יפו, אולם להרוס את בניין הבייגלמאכער, ובמקומו, הציעה התוכנית, לבנות בניין משרדים חדש שגובהו יהיה 4 קומות ושטחו 17,000 מ"ר עבור משרדי העירייה. על פי התוכנית הוצע למקם את מועצת העירייה בבניין העירייה ההיסטורי, בו תיבנה קומה נוספת עבור אולם המועצה.
מספר גורמים התנגדו לתוכנית ניב, ובהם החברה להגנת הטבע והמועצה לישראל יפה. טדי קולק עצמו התנגד לבניית קומה נוספת לבניין העירייה ההיסטורי, ולחזית הזכוכית שתוכננה לאולם המועצה (קולק התנגד לחזית זכוכית שתפנה לעיר העתיקה). מתנגדי התוכנית התנגדו בעיקר להצעה שבנייני העירייה יהיו מצופים זכוכית, ופחות לגודלם הצנוע ומיקומם של הבניינים, ולבסוף התקבלה התוכנית במספר שינויים.
תוכנית לחידוש כיכר ספרא.