בשביל להפחית מחששות ארצות מערב אירופה, קוהל דאג לחזק את ההכרה הגרמנית באחריותה הלאומית על זוועות השואה ומלחמת העולם השנייה וקבע הסכם חדש הקובע את גבולות פולין - גרמניה מאז המלחמה כגבולות קבועים.
קנצלר גרמניה המאוחדת.
קדנציה רביעית - הקמת האיחוד האירופי.
בסוף 1990 ו-1994 נבחר קוהל לתפקיד הקנצלר של גרמניה המאוחדת לשתי קדנציות במסגרת הבחירות הכלליות לבונדסטאג, בגוברו על המועמדים אוסקר לפונטיין (ב-1990) ורודולף שרפינג (ב-1994) מה-SPD. בכך היה קוהל גם לקנצלר הראשון של גרמניה המאוחדת.
איחוד גרמניה הוביל למשבר כלכלי במערב המשגשג. נכון ל-1994 סך ההעברות ממערב גרמניה למזרח עלה 1,200 מיליארד אירו. עד 2003 עלותה הכוללת של ספיגת גרמניה המזרחית לתוך המערב הגיע ל-1.2 טריליון אירו. בשביל לא לפגוע בבוחריו במערב, קוהל סירב להעלות את המיסים. הרפובליקה הפדרלית, שבמשך עשורים נהנתה מעודפי תקציב, החלה לסבול מגירעון. ה'דויטשה בונדסבנק' (הבנק הפדרלי של גרמניה), מחרדת האינפלציה, החל מ-1991 בהעלאת שיעורי הריבית, זאת בעוד שהמארק הגרמני נלכד במערכת המטבע האחידה האירופית. בעקבות האינטגרציה הכלכלית לנוכח המשבר בגרמניה, קוהל הוביל לכך ששאר חברות הקהילה האירופית חלקו עם ארצו בעול ספיגת העוני של גרמניה המזרחית. בעקבות המצב הכלכלי החדש שנוצר גאתה האבטלה והצמיחה הכלכלית הממושכת של הרפובליקה הפדרלית צומצמה.
המצב הכלכלי הרעוע שנוצר בעקבות האיחוד, כמו גם מעבר האוכלוסין ממזרח למערב ומשבר הדיור שנגרם בעקבותיו, הובילו ליריבויות פוליטיות חריפות בין ממשלתו של קוהל לבין האופוזיציה ולהפגנות מחאה חריפות נגד תפקוד הממשלה. לא אחת נזרקו על קוהל מקרב קהל מפגינים ביצים ועגבניות. רוב ההפגנות הללו נגד קוהל אורגנו בידי מפלגת הירוקים. במאי 1991 ביקר קוהל במספר ערים במזרח גרמניה. בעת ביקור בהאלה, סקסוניה-אנהלט, החלו הפגנות אל מול בניין העירייה בעת שהו בתוכו קוהל והפמלייה שלו. קוהל התחמק מהחלק האחורי של בניין העירייה כאשר כ-30 צעירים החלו לזרוק ביצים לעברו מעבר למחסומי הפרדה. במקום לרוץ למחסה, הוא התרחק מהמאבטחים שלו וזינק מעל השער המפריד בינו לבין ההמון במטרה להכות את המפגינים. המאבטחים ניסו למשוך אותו מהקהל, אך הוא השתחרר מידיהם ותפס בכמה מהצעירים המפגינים, שהתגרו בו. בסופו של דבר השומרים משכו אותו מהקטטה והמפגינים נסוגו מהזירה. האבטחה שסבבה את קוהל ניסתה לצמצם את הפרסום של האירוע, אבל קוהל בהמשך הביע מבוכה מההתפרצות שלו. המתקפה סימלה את התסכול שחשו רבים מתושבי מזרח גרמניה, שחשו מרומים על ידי פוליטיקאים מערביים שהבטיחו להם את השמיים לפני הבחירות ב-1990, אבל אז המשיכו עם תוכניות כלכליות שהובילו כביכול לאבטלה המונית, בעיקר בתחומי המזרח.
בפברואר 1993 הודיע קוהל במהלך ביקורו באינדונזיה כי גרמניה תמכור 39 אוניות מלחמה מאחזקות הצי המזרח הגרמני לאינדונזיה.
לקוהל תפקיד חשוב באיחוד גרמניה ובבניית כוחו של האיחוד האירופי, כמו גם במעבר לשימוש במטבע האירו, שהושלם רק לאחר פרישתו. כמו כן השפיע על בחירת פרנקפורט למקום מושבו של הבנק המרכזי האירופי. קוהל פעל רבות לחיזוק הקשרים עם צרפת, והיה ידוע בידידותו רבת ההישגים עם נשיא צרפת פרנסואה מיטראן. קוהל, מיטראן ושאר מנהיגי הקהילה האירופית חתמו על הקמתו של האיחוד האירופי ב-1992, דרך אמנת מאסטריכט.
קדנציה חמישית ובחירות 1998.
בעת כהונתו הרביעית וביתר שאת בכהונתו החמישית, קוהל וממשלתו התערבו במהלך מלחמות יוגוסלביה. בדצמבר 1991, נגד עמדת הקהילה האירופית והממשל האמריקאי, קוהל הכריז כי גרמניה מכירה בעצמאות של סלובניה וקרואטיה מהרפובליקה הפדרלית הסוציאליסטית של יוגוסלביה. עד סתיו 1994, המלחמה ביוגוסלביה הגיעה לנקודת רתיחה כאשר הכוחות הסרבים החלו לתקוף מטוסי נאט"ו ושומרי שלום מטעם האו"ם. בעלות הברית של נאט"ו חששו מהגרוע מכל והכינו תוכניות לחילוץ שומרי השלום במקרה שהסרבים יפתחו במתקפה כוללת. בעוד נאט"ו התכוננה לעימות, גרמניה גררה רגליים. קוהל טען שמכיוון שגרמניה הנאצית כבשה את יוגוסלביה, מבחינה היסטורית זה יהיה בלתי הולם שגרמניה תתערב בסכסוך הנוכחי. לפי קרל לאמרס, לשעבר דובר מדיניות החוץ של הנוצרים-דמוקרטים, קוהל ניסה למנוע מגרמניה להסתבך במהרה בסכסוך צבאי. "זה היה ניסיון לא יעיל להקים חומת אש", לדברי לאמרס. "קוהל היה חכם מכדי לחשוב שטיעון זה יחזיק מעל המים. אבל זה התאים לדעת הקהל בקרב העם הגרמני." חומת האש של קוהל החלה להתפורר כשהגעתם של פליטים מרצח העם הבוסני החלה להשפיע על הפוליטיקה הפנימית הגרמנית.
כשהמצב ההומניטרי החמיר, נאט"ו החלה לאבד סבלנות כלפי בון. בעלות הברית לחצו על גרמניה לשלוח את מטוסי פאנאוויה טורנדו שלה למלחמת בוסניה. לטורנדו הייתה יכולת ייחודית לאתר ולהשמיד מתקני מכ"ם סרבים, מה שיעזור לכסות נסיגה אפשרית של אנשי האו"ם. גרמניה הייתה המדינה האירופית היחידה שהחזיקה במטוס כזה. בסופו של דבר, המציאות האסטרטגית גברה על הרטוריקה הפוליטית וממשלת קוהל הסכימה לבקשת נאט"ו. בעבור מעבר ההחלטה בבונדסטאג, קוהל קידם מגעים עם חברי סיעות האופוזיציה שתמכו בהתערבות ביוגוסלביה נגד העמדה הרשמית של מפלגתם.
בתחילת 1996 העניק לו ארגון בני ברית אות הוקרה על פועלו ההומניטרי. עוד ב-1996, הושלם פרויקט הפיתוח הצבאי של התומ"ת Panzerhaubitze 2000 שפותח בידי הבונדסוור החל מ-1986. בהמשך נמכרו יחידות של התומ"ת לצבאות יוון, הולנד ואיטליה. ב-1997 ערך קוהל ביקור ממלכתי רשמי בברוניי שהיווה ביקור גומלין לאחר ביקורו של חסן אל-בולקיה, סולטאן ברוניי בגרמניה.
בבחירות של שנת 1998 ניצחו ה-SPD ומועמדה למשרת הקנצלר, ראש ממשלת סקסוניה התחתונה גרהרד שרדר. הקואליציה הנוצרית-ליברלית הוחלפה לאחר שש עשרה שנה בקואליציה של הסוציאל-דמוקרטים והירוקים. ב-26 באוקטובר 1998 העביר נשיא גרמניה רומן הרצוג את קוהל מתפקיד הקנצלר ושרדר הושבע לתפקידו. האיחוד האירופי העניק לקוהל ב-11 בדצמבר 1998 אזרחות כבוד של אירופה, ציון לו זכה לפניו רק ז'אן מונה, ממקימי האיחוד. נשיא ארצות הברית ביל קלינטון העניק לו ב-1999 את מדליית החירות הנשיאותית, עיטור הכבוד הגבוה ביותר של ארצות הברית.
פרישתו, ערוב ימיו ואחריתו.
שערוריית התרומות.
בפרשיית התרומות ל-CDU סביב הבחירות לבונדסטאג של שנת 1998 בחר קוהל שלא לגלות את שמות התורמים, ושמר על שתיקה זו עד מותו, בניגוד לתקנון מפלגתו. כתוצאה משתיקה זו נמנעו ממפלגתו כספי מימון המפלגות לתעמולת הבחירות, והוא שילם אותם מכיסו, ובכך מנע נזק כספי ל-CDU. ועדת חקירה פרלמנטרית חקרה את הפרשיית בשנים 1999–2002. בשל חשד להפרת אמונים מצד מפלגתו פתחה פרקליטות המדינה בבון בשנת 2000 בחקירה נגד קוהל. קוהל שילם כופר עונשין, והחקירה לא הגיעה לכתב אישום. קוהל הודה במחדלים בטיפול בתרומות, בחר להמשיך בשתיקתו, וספג ביקורת ציבורית מרובה. בעקבות פרשיית התרומות נאלץ גם לוותר על תפקיד נשיאות הכבוד של מפלגתו. לאחר תקופה של היעדרות מהופעות ציבוריות, שב קוהל באוגוסט 2003 להופיע באירועים של מפלגתו, ושוב לא נחשב בה למוקצה.
השערורייה החלה ב-1995 עם הידיעה שסוחר הנשק קרל היינץ שרייבר נתן שורה של תרומות בלתי מוצהרות למפלגה הנוצרית-דמוקרטית בראשות קוהל. השערורייה החלה להתפרסם ולעלות לכותרות בנובמבר 1999, כאשר תובעים ציבוריים בעיר אאוגסבורג הוציאו צו מעצר נגד ולטר לייזלר קיפ, לשעבר גזבר המפלגה. קיפ הואשם בהעלמת מס בגין אי הכרזת תרומה מהלוביסט של תעשיית הנשק קרל היינץ שרייבר. במסגרת החקירה עלה כי הכסף הוא למעשה עמלה ששילם תאגיד טיסנקרופ עבור ייצוא טנקים משוריינים לסעודיה.
החוקרים גם גילו שהכסף לא הועבר בתשלום חד פעמי למפלגה. התברר שה-CDU כבר זמן רב השתמשה במערכת של חשבונות סודיים כדי לקבל תרומות למימון מערכות בחירות. ב-16 בדצמבר 1999 הקים הבונדסטאג ועדה מיוחדת שתחקור את פרשת קרן הרפש של CDU. הטענה החמורה ביותר נגד המפלגה הייתה שהתרומות נשמרו בסוד מכיוון שהן השפיעו על החלטות ממשלה מרכזיות. באותו יום הודה קוהל שקיבל תרומות במזומן עבור מפלגתו. בראיון המפורט הראשון שלו על השערורייה, אמר קוהל בטלוויזיה הגרמנית הממלכתית כי עשה טעויות אך הכחיש את הטענות שהוא מושחת. הוא גם סירב לנקוב בשמות התורמים. "התורמים האלה נתנו לי אמון בהעברת סכום הכסף הזה בתנאי שלא יפורסמו שמותיהם. הם אזרחים גרמנים שלא היה להם שום קשר להחלטות ממשלה או למדיניות בשום מגזר. הם רצו לעזור לי, ואני לא מתכוון לחשוף שמות כלשהם מכיוון שנתתי להם את המילה שלי." סירובו לנקוב בשמות התורמים הוביל למשבר במפלגה. התברר שבין 1993 ל-1998, קוהל קיבל תרומות במזומן בשווי של כשני מיליון מארק.
החקירה חשפה גם ממדים חדשים של פרשת קרנות המפלגה לרבות שערוריית מימון במפלגת CDU האזורית במדינת הסן. החוקרים בדקו גם חשדות לפיהם ההפרטה והמכירה של בתי הזיקוק 'לאונה' במזרח גרמניה לענקית הנפט הצרפתית Elf בשנות ה-90 לוותה בשוחד של 50 מיליון מארק שמימנו פוליטיקאים גרמנים. למכירת 'לאונה' תמכו קוהל ונשיא צרפת פרנסואה מיטראן. הלוביסט דיטר הולצר וסגן שר ההגנה הגרמני לשעבר, לודוויג-הולגר פהלס, היו דמויות מפתח בפרשה. בינואר 2000, הנהגת CDU התרחקה מנשיא הכבוד שלה, קוהל - ואילצה אותו לעזוב את התפקיד. זה גם סלל את הדרך לעלייתה הפוליטית של אנגלה מרקל, שעד כה קוהל היה הפטרון שלה. באותה תקופה מרקל הייתה המזכירה הכללית של ה-CDU והיא נתפסה ככוח המניע מאחורי ניתוק מפלגתה מקוהל בעקבות השערורייה.