המאמץ נשא פרי, אך הושלם רק ב-1902, כחמש שנים לאחר ביקור הקיסר. בתוך תעלת האבן העתיקה הונח צינור ברזל, שהזרים מים לירושלים, ואלה חולקו בנדיבות ליושבי העיר באמצעות סַבִּילים רבים שפוזרו בכל העיר. המים הגיעו דרך האמה המשופצת, נוסף על מי הבורות ובריכות האגירה המקומיים, וזרמו בשפע בבתי המרחץ, בבתי ההארחה ובמוסדות הדת בעיר. אולם ימי רווחה אלו היו מעטים: במהרה חוררו חקלאים את הצינורות בדרך מבית לחם לירושלים כדי להזרים מים לשדותיהם ולהשקות אותם, ולא פעם שאבו נוודים ממדבר יהודה הסמוך ממי הצינורות ופגעו באספקה השוטפת לירושלים. גם ספָּקי המים בירושלים התנכלו לאמות המשופצות וחיבלו בהן, משום שהאמות פגעו בפרנסתם.
השליטים העות'מאנים התקשו להתמודד עם המפַגעים, ואפילו חיילים ושומרים שהוצבו לאורך האמות לא הצליחו להבריח אותם. השלטון אף הציע הקלות ופטור ממס לתושבי הכפרים והעיירות הסמוכים לאמות המים בתמורה לשמירה עליהן מפני מתנכלים, אך ללא הצלחה יתרה. הדבר הביא לנטישת אמות המים, וירושלים נאלצה להסתפק בבריכות ובבורות המקומיים.
בורות המים.
בורות המים תפסו את מקום אמות המים, והיו לאמצעי אספקת המים העיקרי של ירושלים בדורות הבאים. בורות אלה היו חללים תת-קרקעיים שנחצבו בדרך כלל באזורים הנמוכים, כדי שהגשמים יזרמו אליהם בכוח הכבידה דרך תעלות ומרזבים. הבורות טויחו היטב כדי למנוע חלחול בסלע הגיר האופייני להרי ירושלים, ותושבי העיר דאגו לנקותם מדי קיץ. פתח הבור - החוליה - היה סגור על פי רוב כדי למנוע התעפשות או זיהום המים, והוא נפתח רק כדי לשאוב מים מהבור. כשהחלה היציאה מהחומות הקפידו בוני הבתים לחצוב עבור כל בית או לכל חצר משותפת בור מים, שבלעדיו לא ניתן היה לנהל חיים תקינים.
לאחר מסעו השלישי לארץ ישראל, רשם הרופא השווייצרי ד"ר טיטוס טובלר:
הקושי בתחזוקה ובשימוש בבורות המים הוביל להמצאת פתרונות להקלה על מלאכת השאיבה. חלק מהשכונות היהודיות הראשונות מחוץ לחומה התהדרו במשאבות, כמתואר, למשל, בעדותו של העיתונאי היהודי משה ריישר על משכנות שאננים משנת 1868: "ושם בורות חצובים, ושלח (משה מונטיפיורי) מלונדון פלומפי, לבל יטריחו לשאוב בדלי" (שערי ירושלים, עמ' כ"ג). בעיתונות העברית בשלהי המאה ה-19 הופיעה מודעת פרסומת בזו הלשון:
החסרון העיקרי בשיטת הבורות היה התלות בגשם שימלאם. בהיעדרו, החלופה היחידה הייתה לקנות מים מהשקאים, בני הכפרים סילואן, ליפתא ומוצא, רובם ערבים ומקצתם תימנים, שהיו מוכרים את מימי המעיינות בעיר, בעיקר בשנים שחונות שגשמיהן לא הספיקו למלא את הבורות העירוניים. בשנים שחונות במיוחד, נשקלה ברצינות האפשרות לעזוב את העיר.
מנחם מנדל קמניץ, יהודי תושב ירושלים, תיאר בספרו "קורות העתים" אירוע המלמד על מצוקת המים בירושלים באותן שנים שחונות: בקיץ של שנת 1853 נתקלו ג'יימס פין, הקונסול הבריטי של ירושלים, ורעייתו אליזבת, באב ובנו שעמדו על אם הדרך מירושלים לטלביה, כשהבן ממרר בבכי. התברר כי הילד צמא מאוד, אך לאביו לא היה די כסף לשלם למוכרי המים (ה"שקאים") בעבור כוס מים. הזוג פין מיהר להזמין את השניים לבית הקיץ שלהם בטלביה והשקו אותם מבור המים שלהם, שהיה מלא. השמועה עשתה לה כנפיים, ובתוך שעות ספורות גדשו את הבית מאות מקומיים צמאים, שהתחננו למים. לאחר שחילקו את כל המים שעמדו לרשותם, נאלצו בני הזוג פין לקנות בעצמם מים עד סופו של אותו קיץ.
תקופת המנדט הבריטי.
ראש מחלקת המים בעיריית ירושלים בתקופת המנדט.
לאחר כיבוש ירושלים בידי הבריטים בסוף 1917, חנו בעיר כוחות צבא גדולים שניצלו את כל המים שהגיעו מברכות שלמה ותושבי העיר נאלצו להשתמש אך ורק במי הבורות. היה צורך במציאת פתרון מהיר להספקת מים נוספים לעיר, והבריטים התקינו בתוך חצי שנה, עד יוני 1918, משאבה וצינורות שהביאו מים ממעיינות אל ערוב. לאחר כינון השלטון האזרחי, הבריטים שיפצו וניקו את שרידי אמות המים העתיקות והצינורות ששולבו בהם, והביאו מים ממעיינות העָרוּבּ והבִּיאָר עד ירושלים. הוזרמו לעיר מדי יום כאלף מטרים מעוקבים מים, תוך שימוש במשאבות מודרניות.
במקביל, הביאו הבריטים לסגירת בורות המים בירושלים, משום שהם היו מפגעים בריאותיים, במטרה להפוך אותה לעיר מודרנית. בעקבות גידול אוכלוסיית העיר ועליית רמת החיים בה, עלתה גם הדרישה למים ומצוקת המים בעיר נמשכה לאורך שנות ה-20 של המאה ה-20.
בשנת 1925 הוציא הנציב העליון צו שהפקיע את מי המעיינות העודפים של כפר ארטאס לטובת אספקת מים לירושלים. תושבי הכפר פנו לבית הדין העליון וזה ביטל את הצו בטענה שהוא נוגד את כתב המנדט, האוסר פגיעה בתושבי הארץ לצורך הקמת הבית הלאומי היהודי. בתחילת 1926 ביטל בית המשפט לערעורים בלונדון את פסק הדין והתיר לממשלה להפקיע ממימי הכפר, אולם הכוונה להשתמש במים ממעיינות הכפר, הומרה בהחלטה להביא מים מעין פואר שבנחל פרת, ולצורך כך הונח צינור מים ממעיינות הנחל לירושלים באמצעות חברת "John Ezra &amp; sons" של יוחנן אבן עזרא, יוזם הפרויקט. זו התבררה כהחלטה בעייתית, שכן המעין יבש בקיץ. בשנת 1931, לאור מיעוט הגשמים, הוכנו תוכניות להבאת מים ברכבת לירושלים.
בשנת 1931 הגיעה צריכת המים בירושלים לכ-800,000 גלון ביממה.
מעיינות ראש העין.
כבר באמצע שנות ה-20 עלו קולות שטענו שאין מנוס מהבאת מים ממעיינות ראש העין למרות המחיר הגבוה. לאחר שאספקת המים בנחל פרת לא סיפקה את הדרישות, בוצע סקר היתכנות על ידי מהנדסי הממשלה, ומשניתנה חוות דעת חיובית, הוחל בתכנון ביולי 1933 ובחפירות להנחת הצינור באוקטובר 1933. במהלך העבודות הונח על ידי חברתו של אבן עזרא צינור להובלת מי המעיינות במעלה ההר לירושלים דרך שער הגיא, לאורך מרחק של 62.5 קילומטרים. הצינורות הונחו לאורך הדרך לירושלים במחצית הראשונה של 1934 ובשנת 1935 נחפרו תעלות והצינורות הוכנסו לתוך האדמה וחוברו זה לזה. משאבות רבות עוצמה עם בריכות אגירה, נבנו בשלוש תחנות לאורך הדרך: בלטרון, שער הגיא וליד סאריס.
על פי התוכנית, הקו היה אמור להתחיל לפעול ב-1 באוקטובר 1935, אולם התפקעות של צינורות רבים הביאה לעיכוב בהעברת מים בקו עד ינואר 1936. ב-16 בינואר 1936 דווח שצינור המים עבד שלושה ימים רצופים בלי תקלות. אולם הפעילות לא המשיכה לאורך זמן ולמשך חודשים נוספים הקו סבל מתקלות חוזרות ונשנות. על כן, מפעלי המים מואדי קלט ואל ערוב המשיכו לפעול גם בקיץ 1936. בהמשך, החל הצינור לעבוד באופן סדיר, ומאז, מעיינות ראש העין היו למקור המים העיקרי והחשוב ביותר של ירושלים. הם סיפקו 13,000 מטרים מעוקבים של מים ביממה, כמות שהספיקה לכל ירושלמי למלא אמבטיה שלמה בכל יום. תוואי הצינורות הבריטיים משמש עד היום את חברת "מקורות", המספקת מים לירושלים. אולם גידולה של ירושלים והתיישנות מכונות השאיבה הביאו לכך שהמים מראש העין לא הספיקו לתושבי ירושלים. בשנת 1942 חודשה השאיבה מעין פארה, שסיפקה כ-1000 קוב ליום (220,000 גלון), וביחד עם המעיינות מראש העין הגיעה אספקת המים לירושלים בשנת 1947 ל-2.5 מיליון גלון ליום. בחודשי הקיץ הורגש מדי פעם מחסור במים בעיר והתושבים נקראו לחסוך במים.
בריכות אגירה.
בניגוד לאמות המים הקדומות שהזרימו מים להר הבית, הזרימו הצינורות הבריטיים את המים לשתי בריכות אגירה גדולות בנקודות גבוהות בעיר המורחבת, ומשם הם חולקו בין השכונות באמצעות מערכת צינורות מסועפת. ביוני 1940 החזיקו שתי בריכות האגירה מים המספיקים לצריכה של 3–4 ימים. בריכת האגירה הראשונה נבנתה בשכונת רוממה שבמערב העיר, ממנה הוזרמו המים בצינורות קטנים יותר אל שכונות ירושלים העתיקה והחדשה, ואף אל הכפרים שסביב העיר. בכל שכונה הותקן ברז ציבורי, ואליו הגיעו התושבים כדי למלא את כדיהם.
בתחילה המשיכו רבים מתושבי ירושלים להשתמש בבורות המים שברשותם, על אף מערכת הצינורות החדשה, ורק בסוף הקיץ, כשרוב הבורות התייבשו, פקדו את הברזים השכונתיים. בנובמבר 1938 תואר בהצופה:
בחלוף השנים שכללו הבריטים את מערכת אספקת המים וחיברו מאות בתים פרטיים לצנרת המרכזית. תושבי ירושלים חדלו אט אט להשתמש בבורות ועברו להשתמש במערכת המים המודרנית.
יעקב יהושע, אביו של הסופר א"ב יהושע, תיאר את עוגמת נפשו מסגירת הבורות:
מלחמת העצמאות.
בדצמבר 1947 היו בעיות באספקת המים בעיר, בגלל עבודות תחזוקה של הצנרת. בחודשי המלחמה הראשונים לא הורגש מחסור מיוחד במים בעיר ותשומת הלב הופנתה בעיקר אל העיר העתיקה בה הושמשו בורות המים ובמהלך החורף התמלאו במים. לגבי שאר העיר הצהיר דב יוסף בתחילת 1948 שהוכן מלאי מספיק של מים שיספיק לחודשים אחדים. ב-8 באפריל 1948 הודיע יושב ראש הוועדה העירונית הממונה שתצומצם אספקת המים לירושלים מראש העין ועין פארה בגלל מחסור בדלק, וקרא לחסכון מקסימלי בצריכת המים. אולם בעיתונות העברית היו שטענו שההצהרה נועדה לצורכי תעמולה ולא בגלל בעיה אמיתית באספקת המים. אף על פי שאזור ראש העין הוחזק על ידי כוחות עיראקיים, המשאבות המשיכו להזרים מים לירושלים, ותופעלו על ידי מהנדס יהודי שהגיע בליווי צבא בריטי לשם תחזוקה שוטפת.
קיצוב מים.