ב-21 בינואר 1904 הגיע הרצל לרומא. הוא נפגש עם מזכיר המדינה של הוותיקן, החשמן הצעיר מרי דל ואל, ואמר לו כי בא לבקש "רצון טוב מצד הכס הקדוש". אולם החשמן השיב כי "כל עוד היהודים מכחישים את אלוהותו של ישו", אין הכנסייה הקתולית יכולה לתמוך בהם: "כיצד נוכל להסכים לכך שהיהודים יהיו שוב אדוני הארץ הקדושה בלי להתכחש לעקרונותינו הנעלים ביותר?". הרצל הדגיש כי המקומות הקדושים יהיו "אקסטרטוריאליים", אך החשמן קבע כי לא ניתן יהיה "לקיים מובלעות". הרצל סיפר לו שקיבל את הסכמת המעצמות והגיש לו את מכתבו של פלבה. החשמן קרא את המכתב ואמר שיבקש מהאפיפיור להעניק לו ראיון. למחרת בבוקר נפגש הרצל עם מלך איטליה, ויטוריו אמנואלה השלישי, שזמן מה קודם לכן ביקר בארץ ישראל. הוא אמר להרצל כי "הארץ כבר יהודית מאד" וטען כי "זוהי רק שאלה של זמן" עד שתעבור לרשות היהודים, אך הסביר כי אין ביכולתו לפעול בנושא, מאחר שהעניין נמצא בתחום סמכותו של שר החוץ. כעבור יומיים נפגש הרצל עם האפיפיור פיוס העשירי. הוא לא כרע ברך ולא נישק את ידו המושטת. האפיפיור אמר לו: "אין אנו יכולים להשלים עם התנועה הציונית. לא נוכל למנוע את היהודים מללכת לירושלים, אבל להסכים לכך לא נוכל. היהודים לא הכירו באדוננו, ולכן אין אנו יכולים להכיר בעם היהודי". הרצל חזר על תוכניתו לגבי מעמד המקומות הקדושים, אך האפיפיור קבע כי "ירושלים לא תחזור לידי היהודים", משום שהם "כפרו בישו ועומדים בסירובם להכיר באלוהותו". הרצל אמר לו כי "היהודים נתונים במצוקה איומה" ושהוא זקוק "לארץ בשביל הנרדפים", אך האפיפיור השיב כי אין הכנסייה יכולה לתמוך בזה ואמר: "אנחנו מתפללים לשלום היהודים, הלוואי ויאיר האור בלבם... וכאשר יבואו להתיישב בארץ ישראל, נכין אנו כנסיות וכמרים להטביל את כולם".
עם שובו לווינה, קיבל הרצל מברק מגרינברג, שבו נאמר כי משרד החוץ הבריטי מעוניין להעניק צ'ארטר על אוגנדה, אולם לנוכח התנגדות המתיישבים האנגלים, הוא מציע אזור אחר, מרוחק יותר. הרצל החל בהכנות לשגר לשם משלחת. ב-11 באפריל כינס בווינה מנהיגים ציוניים מעשר ארצות לישיבה מיוחדת של הוועד הפועל הציוני, בניסיון אחרון לפייס את מתנגדים ולמנוע פילוג. אוסישקין תקף את תומכי "תוכנית אוגנדה" ואיים לנתק את הקשר איתם, אך הדיון הסוער, שנמשך שלושה ימים, הסתיים בהתפייסות. כעבור שבועיים נועד הרצל עם שר החוץ האוסטרי, הרוזן אגנור פון גלוחובסקי , שהודיע לו כי ייתכן שהקיסרות האוסטרו-הונגרית תתמוך במאמץ למען הציונות, בתנאי שאנגליה תנקוט יוזמה. הרצל התכונן לנסוע לאנגליה, אולם מיחושי הלב שלו החמירו, והרופאים אבחנו פגיעה בשריר הלב. במצוות רופאיו נסע ב-2 במאי לריפוי בפרנצנבאד. ב-16 במאי נפסק יומנו. הוא שב לווינה למשך שבועיים, אך מצבו לא השתפר.
מותו.
הרצל סבל מבריאות רופפת. הוא לא נשמע לרופאיו, שיעצו לו לנוח, וזאת אף שסבל מתסמיני מלריה, מחולשה, מכאבי ראש, מקשיי נשימה, מדופק לא סדיר, מהתעלפויות ומאיוושה בלב.
בעצת רופאיו, נכנס ב-3 ביוני, יחד עם אשתו, לסנטוריום באֶדלאך (Edlach) שעל הזמרינג. הוא התחיל שוב לעבוד, אולם ב-1 ביולי חלה בדלקת ריאות. הוא קדח מחום, הכרתו הייתה מעורפלת, גופו רעד והוא פלט דם בשיעולו. ב-2 ביולי ביקר אותו הכומר הכלר. הרצל ביקש ממנו: "דרוש בשלום ארץ ישראל בשמי. נתתי את דם לבי למען עמי". הרצל ביקש לראות את אמו וילדיו והם הובאו אליו. ז'ולי לקתה בהתמוטטות עצבים והוצאה מהחדר. הרצל הצביע על הסטודנטים שהמתינו לו בגן בחוץ ואמר לרופאו: "הם אנשים טובים ונפלאים, בני עמי. עוד תראה, יבוא יום והם ייכנסו לארץ-הבחירה!".
הרצל נפטר ב-3 ביולי 1904, כ' בתמוז תרס"ד, בשעה 17:00, מסיבוך של דלקת ריאות קשה על רקע מצב בריאותי כללי ירוד, כשהוא בן 44. ה"נויה פרייה פרסה" פרסם בעמודו הראשון הספד ארוך ששיבח את הרצל כסופר ועיתונאי, אך הזכיר את פעילותו הציונית בשני משפטים קצרים בלבד. העיתונות הליברלית והיהודית ציירה אותו כאחד האישים הגדולים במאה ה-19.
הוא כתב צוואה, ובה ביקש להיקבר בהלוויה צנועה; כמו כן, ביקש שלא יינשאו נאומים על קברו בלווייתו. בצוואתו כתב: "רצוני בלוויה של המעמד העני-ביותר, לא נאומים ולא פרחים. רצוני להיקבר בארון של מתכת, באחוזת הקבר ליד אבי, לשכב שם עד שהעם היהודי יעביר את גופי לארץ-ישראל".
ארונו של הרצל הועבר לווינה והוצב בחדר עבודתו. אלפי אנשים הגיעו לעיר ברכבות מארצות שונות באירופה. יותר מששת אלפים איש השתתפו בלוויה, שנמשכה מספר שעות. בנו, הנס, אמר קדיש, ודוד וולפסון נשא הספד קצר. הוא נטמן בבית העלמין של המחוז העירוני דובלינג בווינה. הרצל נפטר פחות מ-10 שנים לאחר שהתחיל בפעילותו הציונית.
לאחר פטירתו, התברר כי הוציא את כל כספי הנדוניה של אשתו יוליה, וכי משפחתו של הרצל נשארה ללא מקורות הכנסה נאותים. בתו פאולינה הייתה אז בת 14, בנו הנס בן 13 ובתו טרודה בת 11. מוסדות ההסתדרות הציונית, והאפוטרופוסים שמינה, טיפלו בכלכלת המשפחה ודאגו לחינוך ילדיו.
בצוואתו ציווה הרצל כי ידידיו דוד וולפסון, מוריץ ריצ'פלד ויוהאן קרמנצקי ימונו כאפוטרופוסים על ילדיו, וכן שילדיו ייקברו לידו בארץ ישראל. אולם למעשה הצוואה קוימה בשלבים, והושלמה רק לאחר זמן רב.
הסיקור של פטירתו של בנימין זאב הרצל בעיתונות העברית הצטייר כאירוע תקשורתי כביר בהשוואה למקרים אחרים שסוקרו בשנת 1904, לפניה ואחריה. עצימות הסיקור הייתה עזה, המוות נותר בכותרות יותר מחודשיים והמיתוס הציוני של דמותו של הרצל כ'חוזה המדינה' החל להתגבש ולהתעצם. הרצל תואר כאדם נשגב וכאליל, העיתונים שיבחו את יופיו החיצוני, הציגו אותו כגדול מנהיגי העם היהודי והדגישו את חזונו הנבואי
רבים בתנועה הציונית קיבלו את הידיעה בכאב רב והתאבלו קשה על מותו. האבלות בוטאה בדרכים רבות ומגוונות. הרב קוק, בהספידו את הרצל, דיבר על משיח בן יוסף, ואף שלא הזכיר את שמו במפורש, סברו שהתכוון אליו ממש.
אליעזר בן-יהודה ביכה את מותו של הרצל בגיל כה צעיר, והאשים את עצמו ואחרים על כי "לא יצאנו כלנו... במחאות חזקות, עזות, למען יראה מנהיגנו כי אינו לבדו, כי לא כלנו בגדנו בו... כי אנו כלנו עמדים כקיר ברזל להלחם אתו את המלחמה הקשה!".
דוד בן-גוריון הנער כתב לחברו: "לא יקום עוד איש נפלא כזה המאחד בקרבו את גבורת המכבי עם מזימות דוד, אומץ לב רבי עקיבא וענוות הלל, את יפי רבי יהודה הנשיא ואהבת אש של רבי יהודה הלוי התשוקה לעבודת התחייה, שהאציל עלינו בעל רצון האלים, תהמה בקרבנו עד כלותנו את העבודה הגדולה, שלה הקריב המנהיג הגדול את חייו הנישאים".
הספדים להרצל נשמעו גם מצד רבנים נוספים. הרב יחיאל יעקב וינברג הספיד אותו: "בשביל עם ישראל היה הרצל בעל תשובה גדול, חלוצה של תקופת־תשובה גדולה ביהדות. 'והיה ביום ההוא ובאו האובדים מארץ אשור והנדחים מארץ מצרים' - הנה עוד מעט והגיעה השעה שישובו כל הנדחים. הצעירים יתאספו מסביב לדגל אבותיהם. כן, עוד מעט יבואו כולם. הגדול שבהם כבר בא! ... זכרונו חי לעולמי עד בנשמת האומה, מוכתר בתודה וצער, ושמו של הרצל תקוה ועידוד בו עד היום הזה. תודה לאיש שחזונו ומעשיו הצילו את העם בדור של שמד וטמיעה. תקן תקוה לנואשים ועדוד לנחשלים, וצער - על חזון שלא נתקיים במלואו ובטהרתו".
ההערצה שלה זכה בקרב היהודים התגברה לאחר פטירתו. ההערצה שלה זכה השפיעה על הדורות הצעירים, והכשירה במידה רבה את תודעתם של חלוצי העלייה השנייה והעלייה השלישית.
העלאת ארונו לישראל.
באוגוסט 1949, על פי בקשתו בצוואתו, הועברו עצמותיהם של הרצל, הוריו ואחותו מבית העלמין בווינה לירושלים, על פי חוק שהתקבל בכנסת בט"ו באב תש"ט, 10 באוגוסט 1949. ארונו וארונות קרוביו נישאו ברחובות וינה על ידי אנשי משלחת ישראלית ותושבים יהודים אל בית הכנסת "זייטנשטטן" ("Seitenstetten") ואחר כך הועברו אל שדה התעופה והוטסו לישראל במטוס אל על, שנקרא מאז "הרצל". קברו של הרצל נקבע בהר הרצל בירושלים, הקרוי על שמו. ההלוויה הממלכתית נוהלה על ידי הרבנות הצבאית.
בטקס הקבורה נכחו נציגים מכל יישובי הארץ אשר הביאו עפר מיישוביהם להניח בקברו. המצבה על קברו הוקמה בשנת תש"ך, 1960.
שנה לאחר קבורתו המחודשת בהר הרצל, ערך הגדנ"ע טקס הדלקת משואות סביב הקבר בערב יום העצמאות. יושב ראש הכנסת הגיע אף הוא לטקס זה. טקס הדלקת המשואות הפך מאז למסורת, והוא מציין מדי שנה את סיום אירועי יום הזיכרון לחללי מערכות ישראל ופתיחת אירועי יום העצמאות.
משפחתו וצאצאיו.
הרצל נישא בשנת 1889 ליוליה (ז'ולי) לבית נשאואר, ונולדו להם שלושה ילדים: פאולינה (על שם אחותו), הנס וטרודה. הנישואים כשלו, הרצל נטה לדיכאונות ויוליה אף ניסתה להתאבד.
ב-19 בספטמבר 2006, לאחר טקס רשמי, הוצאו עצמותיהם של הנס ופאולינה מבית העלמין היהודי בבורדו, ונקברו למחרת בהר הרצל בסמוך לקבר אביהם, בחלקת יושבי ראש ההסתדרות הציונית, שם כבר היו קבורים הוריו ואחותו של הרצל. בין קבריהם הוקמה מצבה לזכרה של בתו השנייה של הרצל, טרודה, שנספתה בשואה.
ב-5 בדצמבר 2007 הובא מהעיר וושינגטון לקבורה באותה חלקה גם נכדו היחיד של הרצל, סטפן תיאודור נורמן.
משנתו ויצירתו.
תפיסתו המדינית והציונית.