פטירתו של דוד מתוארת ב: "וַיִּשְׁכַּ֥ב דָּוִ֖ד עִם־אֲבֹתָ֑יו וַיִּקָּבֵ֖ר בְּעִ֥יר דָּוִֽד". הנוהג חזר על עצמו במהלך תקופת בית ראשון, כשלגבי מרבית שושלת בית דוד מצוין בספר מלכים כי נקברו "עם אבותיהם" בעיר דוד. כן מסופר שיהוידע הכהן נקבר יחד עם המלכים. ספר דברי הימים מוסיף הבחנה משנית, וקובע כי מקצת המלכים, כגון אחזיה ויואש נקברו בעיר דוד, אך לא ב"קברי המלכים". היום לפי החפירות הארכאולוגיות נמצאו בחפירות שרידים מעיר דוד באותה התקופה, כמו כן נמצאו באזור הר ציון מבצר מתקופת דוד המלך וייתכן מאוד שזה המשך לעיר דוד בתחתית ההר.
בתקופת בית שני עוד היו קברי בית דוד ידועים. הם מוזכרים בספר נחמיה כנקודת ציון ידועה.
האתר היה מוכר לתושבי ירושלים עד שלהי תקופת בית שני, ויוסף בן מתתיהו מספר על מספר פעמים שהקברים נבזזו כדי לשלם חוב מלכותי, תחילה על ידי יוחנן הורקנוס, שהוציא מהקבר שלושת אלפי כיכרות כסף, בהם שיחד את אנטיוכוס השביעי כדי שיסיר את המצור מירושלים. החרה החזיק אחריו המלך הורדוס (קדמוניות טז, ז).
לפי התוספתא למסכת בבא בתרא (א, יא), "קברי בית דוד... היו בירושלים ולא נגע בהם אדם מעולם". קבר דוד מוזכר גם במקורות עתיקים נוספים כגון בספר נחמיה, וכן בברית החדשה, ובספרי היסטוריה רומיים. אלא שעם חורבן העיר ירושלים, חרבו כנראה גם הקברים, כך שמקומם לא נודע.
המקום הידוע כיום כקבר דוד המלך, נקבע על פי מסורת חלופית בת כאלף שנים לערך, המזהה את מקום הקבר דווקא בהר ציון, סמוך לחומה הדרומית של העיר העתיקה. בין המקורות: רשימות מסע מהרב מנחם ב"ר ציון (שנת ד'תתקע"ה, 1214-1215), ספר מסעות בנימין, רשימות מסע תלמיד הרמב"ן, רבי משה חגיז בשם האר"י, תשובות רדב"ז, מהר"ם בן חביב. במהלך השנים, התקבע הזיהוי בין יהודי ירושלים. רבנים רבים שביקרו בארץ ישראל נהגו לפקוד את האתר, ואף היו שחיברו תפילות מיוחדות ל"השתטחות" על הקבר. ברשימת מסע מתלמיד הרמב"ן ואשתורי הפרחי האתר מוזכר כאוהל דוד המוזכר בדברי הימים, בו שיכן דוד המלך את ארון הקודש עד בניית בית המקדש.
אמנם לפי המקרא, דוד ורוב מלכי שושלת בית דוד לא נקברו בהר ציון. אולם, ע"פ דעה אחרת, אין לפסול את האפשרות כי אפילו אחדים ממלכי בית דוד שהיו קבורים בעיר דוד הועברו מאוחר יותר לקבורה מחודשת בהר ציון, דעה זו מסתמכת על מצבת קברו של עוזיהו מלך יהודה, אשר נמצאה, וממנה ניתן ללמוד כי עצמותיו הועברו ממקום למקום.
בקומה התחתונה של הבניין עומד סרקופג מכוסה בפרוכת, המזוהה כקברו של דוד המלך. עד שנת 2007 עמדו על הקבר כתרי תורה שהובאו מקהילות יהודיות שנכחדו בשואה, אך אלה נגנבו ונעלמו.
תולדות המבנה.
תולדות המבנה אינם מתועדים היטב, ואין וודאות מי בנה אותו ומתי בדיוק.
האזכור הראשון של המסורת הקושרת בין הר ציון לקברו של דוד המלך מופיע בכתבי מוקדסי.
היהודי הראשון המזכיר את הר ציון בהקשר לדוד המלך הוא בנימין מטודלה, שביקר בירושלים במאה ה-12.
ההיסטוריון אלחנן ריינר סבור כי המסורת לקיום קבר דוד המלך במקום מוכחשת על ידי רבי בנימין מטודלה. בביקורו בשנת 1170, הוא כתב: "קברי בית דוד והמלכים שקמו אחריו בהר ציון, ואין המקום ידוע. לדעתו, הוא בקש להכחיש את המסורת על אודות קברי בית דוד בכנסיית ציון. היה חשוב להימנע מיצירת הדעה כי קברו של אבי השושלת המשיחית - דוד המלך - הוא בידי הנוצרים. ההנחה היא שאם הייתה מסורת יהודית מקבילה הוא היה מזכיר אותה.
בימי הממלוכים (בשנת 1452 לערך) עברה החזקה על הקבר לידי הסולטאן הממלוכי, בעקבות סכסוכים בין נוצרים ויהודים. הסולטאן הצהיר (כפי שכותב התייר פליקס פברי): "הלא אנו המוסלמים מעריצים את דוד כמו הנוצרים והיהודים. גם אנו מאמינים בכתבי הקודש. לפיכך... יהיה המקום הזה לנו". המוסלמים אסרו על נוצרים ויהודים להיכנס אל הבניין שעל קברי בית דוד, איסור שנשמר בקפדנות עד המאה ה-20, עם יוצאים מהכלל בודדים, כדוגמת ביקורו של משה מונטיפיורי בשנת 1893.
ארמטה פיירוטי שהיה האדריכל הראשי מטעם הממשל הטורקי, מספר "ירושלים נחקרת" כי בשנת 1859 גילה מערה בשטח בית הקברות במערב הר ציון המובילה מתחת למבנה קבר דוד. פיירוטי זיהה את המערה בתור הקבר האמיתי של מלכי בית דוד. כיום, מערה כזו אינה מוכרת אך בדיקות שיקוף קרקע בעזרת מכ"ם שנעשו בשנת 2011 הראו כי קיימת סבירות גבוהה לקיום חלל תת-קרקעי מתחת למבנה (עמית ראם, מחקרי עיר דוד וירושלים הקדומה, דברי הכנס ה-14).
בשנת 1951 חקר יעקב פינקרפלד את המבנה, וכאשר חפר לעומק של כ-70 ס"מ מתחת למרצפות, גילה רצפת פסיפס צבעוני. פינקרפלד תארך את הפסיפס ואת הגומחה בקיר לתקופה הרומית, בעוד שהמצבה עצמה ושאר קירות המתחם הן תוספות מאוחרות. מוטיבים אלו, בנוסף לעובדה שהגומחה פונה לכיוון הר הבית, הובילו את פינקרפלד למסקנה כי הגומחה היא היכל (ארון הקודש) של בית כנסת עתיק ששכן במקום.
בזמן מלחמת השחרור שימש המקום כמפקדה צבאית של הירדנים וב-18 במאי 1948 נכבש בידי ישראל ושימש את הצבא כמפקדה.
לאחר מלחמת העצמאות.
עם שוך הקרבות במלחמת העצמאות, למרות ההתחייבות בהסכם שביתת הנשק לאפשר גישה למקומות הקדושים, נותרו הר הבית והכותל המערבי מחוץ להישג ידם של תושבי מדינת ישראל.
לאחר נפילת הרובע היהודי בתש"ח, נותר הר ציון המקום היחיד ממנו היה ניתן לצפות על הכותל המערבי והר הבית. השלט המכוון אל התצפית נותר על כנו גם כיום (2015). החל בשנת 1953 החלה לפעול במקום "ועדת הר ציון" בראשות הממונה הראשון על המקומות הקדושים, הרב שמואל זנוויל כהנא (שז"ך) הוא קיבע את מרכזיותו וחשיבותו ליהודים, ואף נשלחו מאות אבנים מהמקום כיסודות לבתי כנסת בארץ ובעולם, כתחליף לכותל המערבי (ולהר הבית). בעקבות חקירתו של יעקב פינקרפלד לפיה גומחה במבנה כוונה אל הר הבית, ומכאן השערתו שהמדובר בבית כנסת עתיק, החלו גם תפילות במקום. הנשיא יצחק בן-צבי, בתיאום עם הרב שז"ך הקים משרד על גג המבנה, אליו היה מגיע פעמיים בשבוע, ובו קיבל את פני עולי הרגל בשלושת הרגלים על מנת לחזק את הקשר עם העיר העתיקה, ומקום המקדש.
לאחר קום המדינה ב-1948 הוקם בסמוך אל מבנה הקבר "מוזיאון מרתף השואה" שהיה המוזיאון הראשון בעולם להנצחת מאורעות השואה, ובו לוחות שיש בהם חקוקים שמות הקהילות שחרבו. נציגי קהילות אלו נהגו לערוך טקס זיכרון ביום שנקבע כיום הזיכרון לקהילתם, בדרך כלל יום חורבנה. עקב אופיו הדתי של מרתף השואה, מאורעות דמים של קהילות צפון אפריקה הונצחו אף הן במקום. עם שוב צה"ל לעיר העתיקה במלחמת ששת הימים החל שוב מאבק עם הוואקף על בית הכנסת הספרדי הסמוך. במתחם כולו ובפרט במרתף השואה ובחדר "בית המדרש" הסמוך, שהלימוד בו משמש חלק מפעילות ההנצחה של מרתף השואה, טיפלה ישיבת התפוצות השוכנת בסמיכות, וכן ב"חדר דוד המלך"- מאוחר יותר 'מוזיאון דוד המלך', המציג פריטי אמנות שונים ומוצגים עתיקים. בבית המדרש מתקיימות תפילות בחגים, וכנס גדול של מאות ואלפי מתפללים בחג השבועות, היום בו לפי המסורת, נפטר דוד המלך. החזן בתפילות אלו, עד מותו היה ישראל שטרן (חזן).
כיום.
בשנת 2005 באחת מישיבות הכנסת, חשף חבר הכנסת יצחק כהן מש"ס שבהיותו שר הדתות הובאה הצעת הוותיקן בידי השר יוסי ביילין להעביר את 'חדר הסעודה האחרונה' לרשותם, וביקש לדעת אם חודשו הבקשות מצד הנוצרים, ומה עמדת הממשלה. שר התיירות אברהם הירשזון אישר באותה ישיבה כי אכן פנו גורמים שונים בלתי רשמיים בניסיון להעביר חלקים ממתחם קבר דוד לידי גורמים נוצריים נוספים, ביניהם הכנסייה היוונית, במסגרת תוכנית ההתנתקות. בתשובות בלתי מתחייבות, הממשלה הודיעה רק שלא הייתה החלטה כזו.
בשנת 2009 הוצב במקום פסל מוזהב של דוד המנגן בכינור עתיק (כיום נקרא נבל). לטענת גורמים דתיים הפסל הפך מוקד משיכה לצליינים נוצרים ונערכה פניה לרב הראשי לשעבר מרדכי אליהו על מנת לסלקה מהמקום. לאחר מאבקים שכללו התנכלות לפסל ופגיעה בו, במאי 2012 פורסם שהוחלט להעביר אותו מהר ציון אל חצר הפטריארך היווני ברובע הנוצרי בעיר העתיקה.
בחנוכה דצמבר 2012 נתפס במתחם צעיר כשהוא מנתץ את אריחי הקרמיקה המצפים את הקירות. לטענתו נאמר לו שהאריחים חוסמים את התפילות. בעשרה בטבת תשע"ג, ינואר 2013 לפני טקס יום הקדיש הכללי שנערך במרתף השואה, ניתצו אלמונים את כל האריחים המתוארכים למאה ה-17. רשות העתיקות הישראלית החליטה שלא לשפץ את האריחים שנופצו.
בראש חודש אייר, אפריל אותה שנה (2013) פנתה סגנית השר ציפי חוטובלי לראש הממשלה בנימין נתניהו בדרישה שלא יעביר את המתחם לנוצרים. בחג השבועות כחודש לאחר מכן, במאי, נערכה קטטה אלימה בין נערים מוסלמים ויהודים, במסגרתה נער יהודי נפצע בראשו ממכת מוט ברזל ופונה לבית חולים. בתחילת תמוז, יוני 2013, ישיבת התפוצות ארגנה סעודת מלווה מלכה פתוחה לציבור ומלווה בנגנים על מנת להעלות את המודעות ולחזק את הנוכחות היהודית במקום. סעודות "מלווה מלכה" בליווי מוזיקלי נערכות במקום בכל מוצאי שבת, בשנים האחרונות, על ידי עמותת "מידע יהדות-מורשת דוד המלך" של הרב עידן גרוסמן.