במסגרת תפקידו בשירות הסוכנות היהודית, היה הרצוג אחראי על המעקב אחר ועדת אונסקו"פ שהמלצותיה בפני האומות המאוחדות על אודות ארץ ישראל המנדטורית הובילו לתוכנית החלוקה. מפקד ש"י (שירות הידיעות; יחידת המודיעין של ההגנה), דוד שאלתיאל, הוא שציוות את הרצוג לשאת בתפקיד. שבוע לאחר חתונת חיים ואורה, הוגש דו"ח ועדת אונסקו"פ לאו"ם ב-14 במאי לקראת הצבעה. על תוכנית החלוקה שנרשמה בדו"ח נודע ליישוב דרך מאמצים מודיעיניים שקידם הרצוג שכללו בין לבין האזנות לטלפונים וקריאת פיסות ניירת שנזרקו לפחי אשפה.
מלחמת העצמאות ושירותו הצבאי.
מלחמת העצמאות.
בתחילת מלחמת העצמאות, התמנה הרצוג לראש אגף ביטחון וקצין קישור בירושלים. מחד היה מקשר בין ההגנה לשלטונות הבריטיים ומאידך עבד עם הש"י. הרצוג נמען עם מספר מפקדים בריטיים המוצבים בירושלים ופעל למנוע התלקחות של תקריות צבאיות בין כוחות בריטיים לכוחות היישוב. בכדי לשפר את תפקוד ההגנה לקראת האפשרות של מלחמה סדירה מול צבאות ארצות ערב, החל דוד בן-גוריון לקדם בתפקידיהם קצינים ששירתו בצבא בריטניה במהלך המלחמה. משאבים רבים הופנו לשיפור מערך המודיעין. ב-20 בפברואר נפתח קורס קצונה לשירות המודיעין, והרצוג לקח חלק בפיקוד על הקורס.
במרץ הגיעה לארץ משלחת ביצוע מטעם האו"ם שמטרתה לוודא את מימושה של תוכנית החלוקה. בעקבות הגעתה מונה הרצוג לקשר הסוכנות היהודית עם המומחה הצבאי של המשלחת, הקולונל הנורווגי רגנואלד אלפרד רושר-לונד. לפי דרישת בן-גוריון דרש הרצוג מלונד שהאו"ם ישלח כוח בן שתי דיוויזיות לנגב למימוש תוכנית החלוקה (רוב הנגב נפל באותה העת לשליטת סניף של האחים המוסלמים). לונד הבהיר כי מהלך שכזה אינו סביר וטען כי על היישוב לשקול מחדש את חלוקת כוחותיו בשטח בין מטרות אסטרטגיות למטרות שבראש ובראשונה מהוות נושא חשיבות פוליטי. בני הזוג הרצוג עבדו בבית המוסדות הלאומיים כאשר ב-15 במרץ התפוצצה מכונית תופת בקרב בניין המוסדות. חיים, שעבד בלשכתו של בן-גוריון, לא נפגע ורץ לחפש את אשתו אורה, שעבדה בלשכתו של ראש חיל המדע, אהרן קציר. חיים מצא את אורה פצועה ופינה אותה לבית חולים. במרץ התממשו חששותיהם של הרצוג ולונד כאשר ארצות הברית נסוגה מתמיכתה בתוכנית החלוקה ועברה לתמוך במשטר נאמנות מטעם האו"ם. בכך נוצר מצב שהקמת ממשלה זמנית עלולה להשיג אך ורק את תמיכת הגוש המזרחי.
בעקבות הכרזת העצמאות ב-14 במאי, החלו ההגנה והאצ"ל במבצע קלשון להשתלטות על השטחים בירושלים שפונו על ידי החיילים הבריטים הנסוגים עם סיום המנדט. לפי דרישת מנהיגי יושביה הערבים של ירושלים, ב-19 במאי הורה עבדאללה הראשון, מלך ירדן, ללגיון הערבי, לנוע לעבר מערב ירושלים. בן-גוריון הורה לרמטכ"ל יעקב דורי להקים את חטיבה 7 שמטרתה לפרוץ את דרך בורמה לירושלים ולמנוע את נפילתה לידי צבאות ערב. הרצוג התמנה לשרת כקצין המבצעים והמודיעין של חטיבה 7, והשתתף בקרבות לפריצת הדרך לירושלים ובקרבות לטרון. במהלך מבצע בן נון א' ספג צה"ל מפלה צבאית, שרובה נגרמה בעקבות כשל מודיעיני. הרצוג היה קצין המודיעין של החטיבה, אך התמנה לתפקיד רק יום קודם לכן והתברר מאוחר יותר כשל בהעברת המידע על פריסת הלגיון הערבי דרך ש"י לידיעת החטיבה. גם מבצע בן נון ב' בסוף החודש עלה בתוהו ובתחילת יוני הסתיים מבצע יורם בגורל דומה. הרצוג ניצל את היוזמה שנקט צה"ל במבצעים אלו למצוא דרך עקיפה לפרוץ את ירושלים מדרך בורמה. הרצוג וידא כי עיתונאים יפיצו שישראל פרצה את הדרך לירושלים הנתונה תחת מצור עוד קודם החלה ההפוגה הראשונה ב-11 ביוני.
ביולי 1948 השתתף בהקמת אגף המודיעין (מחלקה באותה תקופה), ומדצמבר 1948 עד אפריל 1950 עמד בראש מחלקת המודיעין במטה הכללי לפי מינויו של ראש הממשלה דוד בן-גוריון. לפי קביעתו המקורית של בן-גוריון, על אגף המודיעין, הוא שירות הידיעות הצבאי (במקור נקרא שירות מודיעין: ש"מ), מוטלות הסמכויות הבאות: "יש להקים שרות ידיעות צבאי על ידי המטה (המטכ"ל) תחת ראשות איסר (בארי) וויויאן (הרצוג). הש"י הצבאי יהיה אחראי לביטחון (זהירות), צנזורה ואנטי ריגול (סיכול ריגול)." במקור התמנה בארי לראש אגף המודיעין החדש, אך עד מהרה הוכתם שמו ושמה של היחידה בעקבות פרשת הוצאתו להורג של מאיר טוביאנסקי בחשד לריגול על לא עוול בכפיו. בארי הודח מתפקידו והורד לדרגת טוראי. סגנו, הרצוג, מונה למפקד החדש של אגף המודיעין לפי מינויו של בן-גוריון.
לאחר המלחמה.
לאחר מינויו לתפקיד ראש אגף המודיעין, הסכימו הרצוג וראש המוסד, ראובן שילוח, כי יש להקים גוף מטעם בין סוכנויות המודיעין על מנת למנוע טעויות קטלניות. באפריל 1949 הוקמה "ועדת תיאום" בראשותו של שילוח, שבדיוניה נכחו הרצוג, איסר הראל, ראש השב"כ, ובוריס גוריאל, מנהל המחלקה המדינית במשרד החוץ.
במאי 1950 קיבל רישיון לעסוק בעריכת דין. החל מאפריל 1950 ועד שנת 1954 שימש כנספח צבאי בוושינגטון די. סי., ארצות הברית. בעת היותו נספח בוושינגטון היה מקורב לשגריר ישראל בארצות הברית, גיסו אבא אבן. הרצוג התמקד בתפקידו במילוי תפקיד של ייצוג ישראל אל מול הרשויות האמריקאיות וטיפח היכרות אישית עם ראשי הממסד הביטחוני דרך פגישות רשמיות ולא רשמיות כאחד. באותה העת היו היחסים בין ישראל לארצות הברית קרים, כאשר ממשל דווייט אייזנהאואר נקט עמדה של ריחוק מישראל במטרה לחזק את קשרי ברית בגדאד ויחסיה של ארצות הברית עם ארצות ערב. רק ב-1957, כאשר החלה להתבהר חשיבותה האסטרטגית של ישראל לאינטרס האמריקאי, הממשל החל לשנות את מדיניותו. עד אז, הממשל חשד שקבוצות יהודיות ופרו-ישראליות באמריקה, מייצגות "הלובי הישראלי בוושינגטון", חותרות מתחת לו. על בסיס חשד זה, גורמים ישראלים ויהודים רבים בארצות הברית היו תחת מעקב. הרצוג גם כן היה נתון למעקב מתוך חשש שהוא מנסה לגנוב סודות של תעשיות ביטחוניות אמריקאיות. מתוך כך, מחלקת המודיעין של צה"ל הגיעה למסקנה שיהיה עדיף להשיבו לישראל, והרצוג עצמו תמך בהחלטה.
ב-15 בנובמבר 1954, לאחר שחזר לישראל באוקטובר באותה השנה, מונה למפקד מחוז ירושלים, תפקיד בו כיהן בשנים 1954–1957.
במהלך "הפרשה", כונה הרצוג בשם "הקצין הגבוה". מעורבותו בעסק הביש אינה ידועה ונשארה חסויה עד היום.
אלוף פיקוד דרום ומפקד אמ"ן בשנית.
ביולי 1957 מונה לראש מטה פיקוד הדרום, ועם מינויו של חיים לסקוב לרמטכ"ל מונה בינואר 1958 לממלא מקום אלוף פיקוד הדרום תפקיד בו כיהן עד יולי 1958, עת הוחלף באברהם יפה. ב-1959 מונה שנית לראש אגף המודיעין. ב-1962 השתחרר מצה"ל בדרגת אלוף. הרצוג היה אמור להיות אחד השופטים במשפטו של יששכר שדמי על אחריותו בטבח כפר קאסם, אך ביקש להשתחרר מהתפקיד מאחר שהוזמן להעיד מטעם ההגנה.
לאחר השחרור מצה"ל.
לאחר שפרש הרצוג מצה"ל במאי 1962, נתמנה לנציגו של סר אייזק וולפסון בישראל, כיהן כמנכ"ל בחברת ג.א.ס בשליטתו ויושב הראש הראשון של "החברה לאלקטרוניקה ישראל" (לימים, "ECI Telecom").
פעילות פוליטית מוקדמת.
בשנת 1965 נמנה עם מקימי רפ"י, והיה מזכיר סניף תל אביב של המפלגה. בנובמבר 1967 היה מתומכי הקמת המערך והתמודד מטעמו בבחירות לכנסת השביעית. כיהן כנשיא וראייטי, ונשיא אורט ישראל.
במלחמת ששת הימים.
ב-28 במאי 1967, בתקופת ההמתנה שלפני מלחמת ששת הימים, נתן הרצוג שיחות פרשנות יומיות ב"קול ישראל", שחיזקו את רוחו של הציבור בישראל. בין השאר אמר, ב-1 ביוני: "אילו הוטל עלי לבחור הלילה בין האפשרות להיות טייס מצרי התוקף את תל אביב, ובין האפשרות להיות אזרח בתל אביב - הייתי בוחר, מטעמים של ביטחוני האישי, באפשרות השנייה". קטעי הקריינות שלו בזמן מלחמת ששת הימים הונצחו על תקליט, שהיה לרב-מכר. עם תום המלחמה מונה כמושל צבאי ראשון של הגדה המערבית, שכללה אז גם את מזרח ירושלים. הוא התמנה לראש מנהל הגדמ"ע עוד לפני המתקפה הירדנית בבוקר ה-5 ביוני, מתוך הערכת האפשרות של השתלטות ישראלית על הגדה. הוא כיהן בתפקיד פרק זמן קצר. במלחמת יום הכיפורים חזר לעודד את הציבור בשיחות פרשנות יומיות ברדיו.
עריכת דין.
בשנת 1972 נמנה עם מקימי משרד עורכי הדין הרצוג, פוקס, נאמן ושות', שלימים הפך למשרד הגדול בישראל. בין השאר יצג את חברת סנוקרסט בבג"ץ שהגישה נגד עיריית בני ברק שסירבה לתת לה רישיון עסק, ואת ליידי איבון קוקריין, בת למשפחת סורסוק הלבנונית, בתביעה נגד האפוטרופוס לנכסי נפקדים שיחזיר לה נכסים שהופקעו ביפו, חיפה ועמק יזרעאל.
שגריר ישראל באו"ם.
בשנים 1975 – 1978 כיהן כשגריר ישראל באו"ם. ב-10 בנובמבר 1975, במהלך כהונתו, התקבלה בעצרת הכללית של האו"ם ההחלטה המשווה את הציונות לגזענות. בנאום התגובה שלו קם הרצוג והגדיר את ההחלטה כגזענית, והבהיר לשגרירים השונים כי הם ישאו באחריות לשואה הבאה שתפרוץ בעקבות ההחלטה. בסוף הנאום הוא אמר "עבורנו, העם היהודי, זו אינה יותר מפיסת נייר, ונתייחס אליה בתור שכזו", וקרע את נייר ההחלטה לשניים.
לימים כלל צוות היסטוריונים בריטים בראשות סיימון סבאג מונטיפיורי נאום זה בין 50 הנאומים הגדולים בהיסטוריה, לצד נאומים של מרטין לותר קינג, נלסון מנדלה, וינסטון צ'רצ'יל וג'ון קנדי.
נשיא מדינת ישראל (1983–1993).
הבחירות לנשיאות המדינה ב-1983.