השכונה ברובה נבנתה על שטחים השייכים לפטריארכיה היוונית-אורתודוקסית. השטחים נודעו בשם "ניקופוריה", על שמו של הכומר ניקופורוס פתאסיס, שרכש את הקרקעות מידי תושבי הכפרים שבאזור באמצע המאה ה-19, ונטע בהן עצי זית, תות וגפנים. לימים אדמות אלו הפכו לרכוש הכנסייה, ונבנו עליהן שכונות טלביה, רחביה וניות.
באמצע המאה ה-19 הקים ג'יימס פין, הקונסול השני של בריטניה בירושלים, את ביתו בנחלה גדולה שלימים תהיה שכונת כרם אברהם. בנחלה זו העסיק פועלים יהודים לעבודה חקלאית. את בית הקיץ שלו הקים פין על אחת מהגבעות של טלביה דאז, שבאותה תקופה היו פזורים בה עצי זית ומספר דרכי עפר. את השדות הללו מתאר פין כשדות קרב בין תושבי אבו גוש ובית צפאפא.
אזור טלביה מוגדר במפת ירושלים של קונרד שיק משנת 1894 כאזור "בוסתנים יווניים" שאין בו בניינים, פרט לשני מבנים הממוקמים מדרום לרחוב ז'בוטינסקי של היום. ליד אחד מהם, שנמצא סמוך לכיכר וינגייט של היום, מצוין "את-טלביה", וייתכן שזהו בית הקיץ של הקונסול פין. המבנה השני, שנמצא ברחוב ד'ישראלי של היום, מצוין במפה כמבנה חצר ששימש לייצור משי. בשלהי התקופה העות'מאנית נודעה טלביה כ"כרם אל ענב" (כרם הענבים).
בסוף מלחמת העולם הראשונה נקלעה הפטריארכיה היוונית-אורתודוקסית לקשיים פיננסיים לאחר נתק בין הצליינות מרוסיה לכנסייה בארץ ישראל, נתק שבא בעקבות המהפכה הרוסית. הכנסייה החלה למכור את שטחיה. ב-1922 מכרה הפטריארכיה לחברת הכשרת היישוב שטחים גדולים באזור "המשולש" (סביב הרחובות המלך ג'ורג', יפו ובן-יהודה), וכן השטח הגדול שעליו נבנתה שכונת רחביה. מאוחר יותר החכירה הפטריארכיה גם את אדמות טלביה.
הקמת השכונה בתקופת המנדט הבריטי.
תכנון ובניית טלביה החלו בראשית שנות ה-20 של המאה ה-20. ערבים נוצרים מירושלים, מבית לחם, מרמאללה ומבית ג'אלא רכשו קרקעות הישר מן הכנסייה היוונית-אורתודוקסית, על מנת להקים לעצמם בתי מגורים או בתים להשכרה. הבתים נמכרו גם דרך יזמים כגון אליאס ג'לאט וג'ורג' שיבר. אלו קנו חלקות קרקע גדולות מהכנסייה, פיצלו אותן לחלקות קטנות יותר - מה שמכונה "פרצלציה" - ומכרו אותן למי שביקש לבנות בית בשכונה. יזמים אלו גם בנו לעצמם בית פרטי בטלביה, וג'ורג' שיבר אף בנה בתים להשכרה בשכונה.
תוכנית השכונה מבוססת על תוכנית-אב לירושלים שתכנן האדריכל קליפורד הולידיי. הטיפול בתוכנית החל ב-1923, אך היא אושרה רק ב-1930. בתוכנית השכונה רחובות ראשיים - הרחובות הידועים כיום בשמות בלפור, מרכוס וז'בוטינסקי - ולתוכם משתלבת רשת רחובות משניים שמחלקת את השטח למלבנים קטנים ודומים. בכל מלבן היו 8–12 מגרשים, כאשר בכל מגרש יש בית אחד.
עיקר הבנייה בתקופת המנדט נעשתה בשנים 1926–1937 ומיעוטה בשנים 1937–1948. על פי מפת העיר מראשית שנות השלושים, השתרעה טלביה בראשיתה מדרום לרחוב ז'בוטינסקי של היום בלבד. השטח שמצפון לרחוב ז'בוטינסקי, פרט לשטח בניין קולג' טרה סנטה, לא היה בנוי. במפת העיר משנת 1947 מצויים בטלביה כתשעים בתים.
בתי השכונה נבנו על ידי משפחות ערביות נוצריות מהמעמד הבינוני ומעלה ואוכלסו על ידן. רוב המשפחות היו קתוליות ומיעוטן פרוטסטנטיות או יווניות-אורתודוקסיות. בשכונה ניתן היה למצוא גם משפחות ארמניות, אך לא היו בה משפחות מוסלמיות. טלביה נחשבה השכונה הערבית היוקרתית ביותר בעיר, ותושביה היו ראשונים מבחינת מעמדם החברתי-כלכלי בשכונות הערביות של דרום ירושלים. התגוררו בה בעיקר משפחות של רופאים, עורכי דין, עסקנים, סוחרים ופקידי ממשל.
ערבים רבים אמצו את המודרנה ואת תרבות המערב, כגון בשמות הבתים שכתובים באותיות לטיניות על כמה שערי כניסה. על שער ביתו של חנא סלאמה ברחוב בלפור נכתב Villa Salameh (וילה סלאמה), ועל שער בית בהמשך הרחוב נכתבה הכתובת The Claremont.
בטלביה שכנו מספר רב של קונסוליות, רובן ברחוב בלפור שנקרא אז רחוב הקונסולים. בהן קונסוליות הולנד, איראן, הונגריה, טורקיה, יוון וספרד.
החל מאמצע שנות השלושים עברו להתגורר בטלביה משפחות יהודיות בבתים שכורים, בשל הרצון לגור בסמיכות לשכונת רחביה היהודית. בהן ניתן למצוא, בין השאר, את משפחת המו"ל ראובן מס ומשפחת המחנך יוסף בנטוויץ.
במלחמת העצמאות.
ב-12 בפברואר 1948 נרצחה יהודייה בשכונה. בעקבות הרצח עברו בשכונה כלי רכב של ארגון ההגנה עם רמקולים וקרא לתושבים הערביים להתפנות, ולא "ירוסקו הם ורכושם". רובם אכן התפנו, אך פנו לנציב הבריטי העליון בבקשה שינקוט באמצעי הגנה על מנת שיוכלו לשוב לבתיהם. הבריטים נענו לבקשה והקיפו את השכונה בגדרות תיל. במקום הופקדו שוטרים אנגליים, יהודיים וערבים. רבים מהתושבים שנטשו את בתיהם שבו לשכונה בעקבות צעדים אלו.
אזור הביטחון בוטל ב-14 במאי 1948, יום לפני סיום המנדט הבריטי. בעקבות ביטול אזור הביטחון נטשו התושבים הערבים שנשארו בשכונה את בתיהם. חלקם עברו למזרח העיר וחלקם עברו לארצות אחרות.
בניגוד לשכונות ערביות אחרות שננטשו מתושביהן, בטלביה נעשה מאמץ למנוע ביזה של הרכוש הרב שהותירו אחריהם התושבים הנמלטים. תושב השכונה ראובן מס הופקד על האחריות לרכוש הנטוש. הבתים אוכלסו בתושבים יהודים שנאלצו לפנות את בתיהם בשכונות אחרות, ועל פי ההנחיות רוכז המיטלטלין של בעלי הבתים המקוריים באחד מחדרי כל בית. אולם, סיום המלחמה מצא את מרבית תושבי טלביה המקוריים מחוץ לגבולות המדינה כפי שנקבעו, וללא אפשרות לחזור אל רכושם. על פי עדויות תושבים יהודים שאכלסו את הבתים, כעבור שנים אחדות נתעורר צורך בחדרים נוספים כדי להפחית את הצפיפות וליישב עולים, ופקידי ממשל פינו את הריהוט והחפצים שבהם למחסנים.
התפתחות השכונה לאחר קום המדינה.
בתים רבים שננטשו בידי תושבים ערביים נתפסו על ידי משפחות יהודיות שחילקו את השטחים הקיימים ליחידות מגורים קטנות יותר. עם השנים הרחיבו הדיירים את שטח דירתם על ידי רכישת שטחים שהתפנו וצירופם מחדש. נוסף לזאת, החל שיפוץ דירות כללי בהתאם לסגנון הבנייה המתחדש והמקובל באותה תקופה. בהדרגה, שבה טלביה להיות שכונה בורגנית של בעלי מקצועות חופשיים, אקדמאים ואנשי ממשל, כפי שהיה אופייה בימי המנדט.
בראשית שנות השישים החלו קבלנים לרכוש זכויות על גגות חלק מבתי השכונה על מנת להוסיף להם קומות. בשל חוסר המודעות שהיה אז בנושאי שימור אתרים, תוכננו ונבנו תוספות ללא כל התייחסות לבניין המקורי. בשל מחסור באבן שהיה בשנות השישים נבנו תוספות רבות מחומרים זולים ובאיכות ירודה שלא הייתה מתואמת עם איכות הבניין המקורי. באמצע שנות השמונים נכנסה לתוקף התוכנית לשימור שכונת טלביה שהנחתה כללים ברורים בכל הנוגע לבניית תוספות. תוכנית זו סייעה בשיפור המודעות לבניין המקורי הערבי ולשימורו.
בשנות השישים נרכשו על ידי קבלנים ויזמים כמה מגרשים ריקים בטלביה. שטחים אלה השתרעו בין רחוב פינסקר לרחוב דובנוב של היום. מאז נבנו באזור זה וילות פרטיות. הראשונה והמפוארת ביותר היא וילה שרובר של גיטה ומיילס שרובר, שנבנתה כבר בשנות החמישים. שטח נוסף פנוי היה בין הרחובות שופן וז'בוטינסקי. בשטח זה נבנו מכון ון ליר והאקדמיה הלאומית למדעים בשנות החמישים; משכן הנשיא ב-1971, תיאטרון ירושלים והמוזיאון לאמנות האסלאם ב-1975, ובניין לשכת עורכי הדין ובית הכנסת מעלות נבנו ב-1985.
עד לראשית שנות השבעים נמצאה בשטח שליד רחוב יצחק אלחנן (מתחם עומריה) חורשת זיתים, שבמרכזה בית הספר "בית הילד" (כיום בית הספר לאומנויות). התכנון היה לבנות במתחם זה שמונה מגדלי מגורים ושני בתי מלון רבי-קומות. מאבק ציבורי הכניע את התוכנית, ולבסוף נבנה במקום בית מלון אחד, מלון לרום (כיום מלון ענבל), שתוכנן על ידי האדריכל יעקב רכטר ונחנך ב-1983. ממזרח לו הוקם גן פעמון הדרור.
בטלביה ניתן למצוא מבנים ממלכתיים רבים ודירות שרד רבות. בהם משכן נשיאי ישראל ("בית הנשיא"), מעונו הרשמי של ראש הממשלה, וכן מוסדות תרבות: האקדמיה הלאומית למדעים, מכון ון ליר, תיאטרון ירושלים והמוזיאון לאמנות האסלאם; המכון הישראלי לדמוקרטיה, יד הרב נסים ולשכת עורכי הדין. בין שנת 1948 לשנת 1999 שימש בניין מסדר הקפוצ'ין שבשכונה כבית חולים לחולי נפש, מטעם קופת החולים הכללית.
בראשית שנות החמישים יועדו כמה דירות בשכונה כדירות לשרי הממשלה. גולדה מאיר, קדיש לוז ומרדכי נמיר התגוררו בתקופות שונות בדירה קטנה בקומה העליונה של וילה הארון א-ראשיד ברחוב מרכוס. בשכונה התגוררו לזמן מסוים משה שרת כשר החוץ וזלמן שזר כשר החינוך והתרבות. בית אלפרד אגיון שימש עד שנת 1974 כמעונם הרשמי של שרי החוץ, אך החל משנה זו הפך למעונו הרשמי של ראש הממשלה, כאשר יצחק רבין היה הראשון שגר בבית זה כראש ממשלה.
בשנות השישים רכשה הממשלה דירות שרד נוספות. ברחוב ז'בוטינסקי התגוררו בזמנים שונים שר המשפטים פנחס רוזן, יו"ר הכנסת קדיש לוז והראשון לציון, הרב עובדיה יוסף. דירה נוספת ברחוב ז'בוטינסקי שימשה במשך שנים דירת יו"ר הכנסת וכן התגורר בה הנשיא לשעבר יצחק נבון.
בשכונה התגוררו רבים מחברי הסגל האקדמי של האוניברסיטה העברית, הנוירוכירורג פרופ' אהרון בלר, וכן סופרים כגון יעקב יהושע, חיים הזז וחיים גורי.
החל משנות השמונים חל שינוי באוכלוסיית השכונה. חלק מן הפרופסורים שעברו לטלביה בשנות החמישים הלכו לעולמם או עברו דירה, ובתים רבים נקנו על ידי משפחות אמידות, רובן דתיות או מסורתיות, של עולים מצרפת, מאנגליה או מארצות הברית. בעקבות כך עלו מחירי הנדל"ן בטלביה והם מהגבוהים בישראל. מסיבה זו קיימת ביקורת ציבורית על הימצאות מוסדות ממשלה בשכונה וניסיונות לסגור או להעתיק את המוסדות.
יעקב שור