למרות הקריאות הנרגשות ליהודי הגולה, התפתחה הספרייה לאיטה, וכללה אלפים בודדים של ספרים, אולם התמונה השתנתה מן הקצה אל הקצה בעקבות פעילותו הענפה של יוסף חזנוביץ, ששלח מן הגולה, החל מ-1895 ועד מותו ב-1919, כעשרים אלף ספרים וכתבי עת להעשרת הספרייה, בלא שזכה לראותה בעצמו. משלוח הספרים הראשון, שהכיל 8,800 ספרי עברית וחמש מאות ספרי לועזית הגיע לירושלים בשלהי 1895 וערר התרגשות רבה. קליטתו וקטלוגו של אוסף חזנוביץ היווה בעיני מייסדי בית הספרים נקודת מפנה, ובדו"ח משנת 1910 כתבו: "ובכן נשתכלל ונתיסד הבית הזה, ויפשוט מעליו את תכונת בית מקרא לצעירים אשר הייתה לו בראשונה, וילבש לבוש חכמים כי לא בית מקרא יאמר לו עוד כי אם בית מדרש לדורשי תושיה וחוקרי דעת". בעקבות זאת שונה רשמית שמה של הספרייה ל"בית הספרים הכללי לבני ישראל בירושלם מדרש אברבנאל וגנזי יוסף".
עם גידולה של הספרייה, החלו מנהליה לתור אחרי בניין רחב ידיים יותר וחסין יותר מפני דליקות, אותו מצאו בבית עמיאל שבסמוך למגרש הרוסים, ולשם עברה הספרייה בחודש סיון תרנ"ו. אולם למניעת מצב זה, בו הם תלויים בחסדי בעל הבית ונאלצים מפעם לפעם לטלטל את כל אוספי הספרייה לבית חדש, פעלו למען בניין קבע לספרייה. איסוף הכסף התחיל בשנת 1894, ובשנת 1899 קנו מנהלי הספרייה בהקפה מגרש סמוך לרחוב החבשים. טקס הנחת אבן הפינה נערך בשנה שלאחר מכן. הבניין נועד להיות אדיר-ממדים, אולם הכסף הספיק לבנות רק אגף אחד מתוך התכנון. בשנת 1902 נחנך בניין ספריית בני ברית שנודע גם בשם "בית נאמן", ובסיוע קרן משה מונטיפיורי סילקו את חובם לבעל הקרקע.
תחת הנהלת ההסתדרות הציונית.
אוצר בית הספרים המשיך לגדול, ובדו"ח שהוציא ועד בית הספרים בשנת 1910, נמנו באוספי הספרייה 32,151 ספרים. במקביל, נעשו ניסיונות להעביר את הבעלות על הספרייה מידי אגודה פרטית לידיים ציבוריות. בשנת 1905, בקונגרס הציוני ה-7, קרא היינריך לווה לטיפוחה של ספרייה לאומית תחת חסות המוסדות הלאומיים. המשא ומתן בין ועד בית הספרים לבין הקרן הקיימת לישראל התמשך, ולאחר שנקטע בעת מלחמת העולם הראשונה, הובא לידי גמר בשנת 1918, כשבית הספרים הועבר למשך שנה לידי ועדה משותפת של המשרד הארצישראלי ואגודת בני ברית. בסוף אותה שנה, הועבר בית הספרים לרשות ההסתדרות הציונית.
הספרייה נמסרה להנהלתו של שמואל הוגו ברגמן, שצבר ניסיון עשיר בספריית אוניברסיטת קארל בפראג. ברגמן מצא בבואו ספרייה קטנה הניצבת מול מכלול של בעיות - אלפי ספרים בלתי מקוטלגים, מאות ספרים שהושאלו ולא חזרו, חוסרים אדירים בספרות ליבה, תקציב זעום ומחסור בספרנים מקצועיים. במהלך שנת תרפ"א קוטלגו רוב הספרים "חוץ ממספר לא גדול ביותר של ספרים בלתי חשובים ומחוסרי ערך" וסודרו בכרטסות לפי מחברים ולפי נושאים. כמות העבודה הנדרשת הייתה מעל ליכולתם של עובדי הספרייה, והם נעזרו במתנדבים רבים.
מספר הספרים של הספרייה הלך וגדל, וברחבי העולם הוקמו כמה וכמה אגודות של "ידידי בית הספרים" שקיבצו למען הספרייה הן כסף והן ספרים נוספים. מקור נוסף לתרומות היו האגודות למען האוניברסיטה העברית, שבין השאר שלחו ספרים לטובת ספריית האוניברסיטה - ספרים שהועברו לספרייה הלאומית. מצידה, הספרייה עשתה כל שביכולתה כדי לעודד עוד ועוד תרומות שכאלה.
בסוף שנת תרפ"א (1921) דיווח ברגמן על 1,300 מנויים לספרייה ומעל מאה מבקרים ביום, שהרבה מהם באו לעיין באוסף העיתונות. באוקטובר 1923, נפתחה מחלקה רפואית של הספרייה, ששכנה בבניין מכון פסטור. בשנת 1924 עברה הספרייה מסידור של הספרים לפי מקצועות כלליים, לסידור פרטני, ולצורך כך אימצה את שיטת דיואי, אולם עד מהרה התברר ששיטה זו איננה מפורטת דיה כשהדבר מגיע למדעי היהדות, ולכן יצר גרשם שלום, שהיה אחראי על מחלקת ספרי היהדות, מיון מיוחד בשם "סדר המקצועות במדעי היהדות" (שיטת שלום).
במקביל לפרסום של הרבעון קריית ספר, בו הופיעו הספרים העבריים החדשים בספרייה, פורסמו סקירות וביקורות עליהם בעיתונות היומית, מתוך רצון לעודד משלוח של ספרים לספרייה. נתונים סטטיסטיים על כמויות הספרים ועל הקוראים התפרסמו גם הם בעיתונות התקופה.
בית הספרים הלאומי והאוניברסיטאי.
בשנת פתיחתה של האוניברסיטה העברית, ב-1925, נמסרו אוצרות בית הספרים לאוניברסיטה העברית ושמו הוסב רשמית ל"בית הספרים הלאומי והאוניברסיטאי". ב-15 באפריל 1930 נחנך בניין בית הספרים הלאומי והאוניברסיטאי (בית דוד וולפסון) בקמפוס האוניברסיטה העברית בהר הצופים.
בימי מלחמת העצמאות, עם ניתוק הדרך אל הר הצופים, נותק גם קמפוס האוניברסיטה העברית והספרייה הלאומית שבו, מהעיר ירושלים. חלק מאוצר הספרייה אז הושחת עקב פגעי המלחמה. האוניברסיטה העברית הוקמה מחדש בבניינים שונים בירושלים, ובין השאר במתחם קולג' טרה סנטה וספריית בית הכנסת ישורון ברחביה, שם היה משכנו של בית הספרים הלאומי והאוניברסיטאי לאחר המלחמה. עם חתימת הסכמי שביתת הנשק בתום מלחמת העצמאות עלו שיירות להר הצופים פעם בשבועיים. השיירות נועדו לחילוף של כוחות משטרה ששמרו על ההר המכותר והמבודד שנשאר בריבונות ישראלית. עם ירידת השיירות לירושלים הם הביאו איתם בין היתר את אוצרות בית הספרים הלאומי שנשארו בהר הצופים לירושלים. אפשר להניח שכמה ספרנים גויסו אז למשטרת ישראל. מקור חשוב לשיקומה של הספרייה שימשו גם אוצרות הספרים, שהובאו לארץ מעזבונה של יהדות אירופה שנשמדה בשואה. הספרים הגיעו בעיקר מאזור הכיבוש האמריקאי בגרמניה. בנוסף נאספו כתבי יד יהודיים מעולי תימן, ועשרות-אלפי ספרים בבעלות פלסטינית שנאספו מבתים נטושים אחרי המלחמה, כולם הפכו לחלק מאוספי הספרייה.
בתחילת שנות ה-50 של המאה ה-20 הוחל בהקמתו של קמפוס חדש לאוניברסיטה העברית בגבעת-רם, ובשנת 1960 עברה הספרייה למשכנה הנוכחי שם (בניין ליידי דייוויס) בסמוך אל בית הספר לספרנות, מידע וארכיונאות שהיה קיים בעבר בסמוך אליו.
במאי 1966 ביקר בירושלים קנצלר גרמניה קונראד אדנאואר, ביקור טעון שלווה בהפגנות רבות. מארחו של אדנאואר מטעם האוניברסיטה העברית, דוד עמירן, ביקש ממנהל הספרייה באותה עת, קורט דוד וורמן, לארח את הקנצלר בספרייה. וורמן הסכים רק בתנאי שהאוניברסיטה תעמיד את כל כספי השילומים מגרמניה לרכישת כתבי יד יהודיים. הכסף איפשר בין השאר מימון רכישת כתבי יד במכירות פומביות.
במרץ 1969 התפוצץ מטען חבלה במזנון של הספרייה.
קשיים כלכליים והקפאת פעילות.
לקראת סוף המאה ה-20 סבלה הספרייה מקשיים תקציביים משמעותיים, אשר נבעו, בין השאר, מהיותה תחת חסות האוניברסיטה וללא מעמד עצמאי. קשיי מימון אלה, כפי שמדווח מבקר המדינה, גרמו לליקויים בתפקוד הספרייה בתחומי השגת, אחסון וקטלוג הספרים.
ב-1997 מונתה "ועדת בדיקה בינלאומית לבחינת מצב בית הספרים הלאומי והאוניברסיטאי", ובעקבותיה ב-2002 ועדה בראשות פרופ' יצחק זמיר ("הוועדה לשינוי מעמד הספרייה הלאומית") אשר הגישה את מסקנותיה ב-2004. הוועדה המליצה להפוך את הספרייה לחברה לתועלת הציבור בבעלות של המדינה (50%), האוניברסיטה העברית (25%) וגופים נוספים, להקצות לה תקציב ייחודי ולתכנן מבנה חדש המתאים לצרכים הנוכחיים של הספרייה. בחלק מהוועדות כיהן דוד בלומברג, שלימים התמנה ליו"ר דירקטוריון הספרייה. לשם יישום ההמלצות, הועלה 'חוק הספרייה הלאומית' להצבעה בכנסת.
חוק הספרייה הלאומית.
ב-26 בנובמבר 2007 הועבר בפה אחד במליאת הכנסת 'חוק הספרייה הלאומית'. לפי החוק הספרייה תוגדר כחברה לתועלת הציבור בבעלות המדינה (50%), האוניברסיטה העברית (25%) וגופים נוספים שייקבעו. לחברה תמונה מועצה בת 14 חברים בראשות נשיא האקדמיה הלאומית הישראלית למדעים ודירקטוריון בן 11–15 חברים. חוק הספרייה הלאומית נכנס לתוקף ב-1 בינואר 2008, המעבר למעמד חברה לתועלת הציבור, לפי החוק, נקבע לחצי שנה לאחר כניסת החוק לתוקף. ב-23 ביולי בשנת 2008, כינס נשיא האוניברסיטה העברית, פרופ' מנחם מגידור, במעמדו כיו"ר האספה הכללית של הספרייה הלאומית, את דירקטוריון הספרייה הלאומית והכריז רשמית על הפעלת הספרייה הלאומית כחברה לתועלת הציבור.
בתקופת המעבר נוהלה הספרייה כחברה בת בבעלות מלאה של האוניברסיטה העברית. אנשי הספרייה בשיתוף עם אנשי יד הנדיב חיברו ופרסמו במהלך שנת 2010 תוכנית אב אסטרטגית כבסיס להפעלת הספרייה בעתיד ולהקמת משכן חדש שייבנה באמצעות תרומה של "יד הנדיב", בעלות של כחצי מיליארד ש"ח. בתקופה זו בוצעו שינויים רבים בספרייה, ביניהם גיוס כוח אדם נוסף.
ב-21 בפברואר 2010 התקבלה החלטת ממשלה שבה הוחלט לתמוך ולקדם את "מיזם התחדשות הספרייה הלאומית של ישראל", הוקצה מגרש לבניין הספרייה החדש בקריית הלאום (קריית הממשלה), וניתנה הנחיה לקדם קבלת היתרי בנייה על פי תוכנית בניין עיר נקודתית. המשכן החדש היה צפוי להיחנך ב-26 ביולי 2016, אך השלמתו נדחתה לשנת 2019, ונדחתה שוב לסוף 2022.
כספרייה לאומית.
ב-1 בינואר 2011 הסתיים שלב המעבר והבעלות על הספרייה עברה לידי המדינה (50% מהמניות) והאוניברסיטה העברית (25%). שאר המניות לא הוקצו בשלב הראשון. באותו חודש הוקמה "החברה לבניין הספרייה הלאומית בע"מ (חל"צ)" שמטרתה "להקים בעבור חברת הספרייה הלאומית בע"מ (חל"צ), בניין או בניינים חדשים כפי שיוסכם עימה על מערכותיהם וציודם, שיאפשרו לה להגשים את מטרותיה ולמלא את תפקידיה, ולמסרם לחברת הספרייה.". עם סיום שלב המעבר, יו"ר הדירקטוריון דוד בלומברג הוביל את תהליך ההתחדשות המקיף של הספרייה השואף להתאימה למאה ה-21, ולהפכה למרכז תרבות וחינוך לאומי מוביל לכל אזרחי המדינה ולעם היהודי בכללו.