תמורת כניעה זו, אפשר הנרי השני להרמן השני להישאר דוכס שוואביה עד למותו בשנה שלאחר מכן, לאחר מכן, אף שהכיר בהרמן השלישי (שהיה ילד) כיורש התואר של אביו, הנרי השני נטל למעשה את השלטון על הדוכסות.
בשנת 1003 היינריך משוויינפורט, מרקיז נורדגאו התקומם נגד שלטונו של היינריך, על מנת לרצותו הבטיח לו היינריך את דוכסות בוואריה, אולם לאחר שקיבל את כס המלוכה סירב היינריך לכבד את הבטחתו ובמקום זאת תמך בזכויות הבווארים לבחור את הדוכס שלהם. בתמיכתו של היינריך, היינריך הראשון, רוזן לוקסמבורג הפך לדוכס בוואריה.
בעקבות כך מרד בו היינריך משוויינפורט וחבר לבולסלאב הראשון, דוכס פולין, אולם המרד דוכא עד מהרה והיינריך משוויינפורט גורש מנחלותיו.
מסע המלחמה הראשון לאיטליה.
לאחר מותו של אוטו השלישי בשנת 1002, הכריז על עצמו ארדואינו מאיבראה כמלך איטליה, ואף זכה לתמיכתם של ארנולף השני, ארכיבישוף מילאנו וחלק מהאצולה האיטלקית. אולם מכיוון שארדואינו נודה בשנת 997 על רצח בישוף ורצ'לי, התנגדו לו פרידריך, ארכיבישוף רוונה וחלק ניכר מהאצולה האיטלקית, ובעקבות כך הם קראו להיינריך לתפוס את השלטון באיטליה.
בשנת 1004 נענה היינריך לקריאות הבישופים האיטלקים, והוביל פלישה לאיטליה נגד ארדואינו. היינריך כינס את כוחותיו באאוגסבורג, והוביל אותם דרך מעבר ברנר לטרנטו. לאחר כמה הצלחות ראשונות, רוב הכמורה האיטלקית וכמה משפחות אצולה נשבעו אמונים להיינריך, כולל הארכיבישוף ארנולף השני שהצטרף להיינריך בברגמו, וב-14 במאי 1004 הוכתר היינריך למלך איטליה בפאביה. בשונה מקודמיו לא לבש היינריך כתר הכתרה משותף בשם איטליה וגרמניה, אלא לבש שני כתרים המסמלים זאת. למחרת התמרדו תושבי פאביה נגד היינריך, ובתגובה הורה היינריך לחייליו לטבוח בתושבי העיר.
לאחר מכן שב היינריך לגרמניה בשל הצורך להילחם בבולסלאב הראשון, דוכס פולין, ובעקבות כך לא הוכתר ברומא לקיסר האימפריה הרומית הקדושה.
המלחמה עם פולין.
בתקופת אוטו השלישי היה בולסלאב הראשון, דוכס פולין נאמן לאוטו, אולם שאיפותיו של היינריך במזרח דרדרו את היחסים בין המדינות. בנוסף בולסלאב תמך בטענותיו של אקארד הראשון, מרקיז מייסן לכתר גרמניה, ולאחר רציחתו של אקארד בשנת 1002 כבש בולסלאב את מרקיזות מייסן ומרקיזות לוסאטיה. זמן קצר לאחר מכן נפצע בולסלאב באורח קשה כשניסו להתנקש בחייו, ומכיוון שחשד בהיינריך שתכנן את ההתנקשות ניתק בולסלאב את היחסים בין שתי המדינות.
בנוסף, בשנת 1002 הודח בולסלאב השלישי, דוכס בוהמיה במרד אצילים, ובולסלאב החזירו לשלטון, אולם לאחר שקיבל הזמנה מאצילי בוהמיה להתערב בסכסוך, כבש בולסלאב את דוכסות בוהמיה, ונטל לעצמו את התואר "דוכס בוהמיה". בשנת 1004 מרד בולסלאב בהיינריך בגלוי והבעיר את הטירה במייסן כמעשה התגרות, ובעקבות כך פרצה מלחמה בין שתי המדינות.
לכשחזר היינריך מאיטליה הוא כרת ברית עם שבט הסלאבים הפגנים הלוטיסים, על אף שכפועל יוצא מהברית עמם נעצרה התנצרות השבטים הסלאבים. בעקבות כך, אצילים גרמנים רבים התנגדו לברית עם הסלאבים, וכן אצילים רבים התנגדו למלחמה בעקבות קשרי הידידות והמסחר שטיפחו בפולין בתקופת אוטו השלישי. בוסלאב מצידו גם הוא התכונן למלחמה, וכרת אף הוא ברית עם שבטים סלאבים אחרים.
בקיץ 1004 פלשו כוחותיו של היינריך לבוהמיה והגיעו להרי האורה, ולאחר מכן כבשו את הטירה בזאטץ' והשמידו את הכוח הפולני שהיה מוצב שם. במקביל פלש יארומיר פרמיסל (אחיו הצעיר של בולסלאב השלישי) לבוהמיה בסיוע כוחות גרמניים וכבש את פראג והכריז על עצמו כ"דוכס בוהמיה", ולאחר מכן נשבע אמונים להיינריך כוסאל, ובכך שילב את בוהמיה באימפריה הרומית הקדושה. אולם על אף שכוחותיו של היינריך השתלטו על בוהמיה, החזיקו הכוחות הפולנים בשטחי מוראביה שהייתה כפופה קודם לכן לבוהמיה.
בקיץ 1005 פלש היינריך לפולין וחדר לפנים הארץ, אולם כוחותיו ספגו אבדות כבדות, ואף נחלו תבוסה קשה בפוזנן. לאחר מכן נחתם הסכם שלום בין הצדדים, ובו ויתר בולסלאב על תביעתו לדוכסות בוהמיה, ואף החזיר את מרקיזות מייסן ומרקיזות לוסאטיה.
בשנת 1007 היינריך השני גינה את שלום פוזנן, וכתוצאה מכך התקיף בולסלאב הראשון, דוכס פולין את ארכיבישופות מגדבורג, וכבש מחדש את מרקיזות מייסן ומרקיזות לוסאטיה כולל העיר באוצן. המתקפה הגרמנית החלה שלוש שנים מאוחר יותר בשנת 1010, אך לא הייתה לה שום תוצאה משמעותית, מעבר לכמה מעשי ביזה בשלזיה. בשנת 1012 נחתם הסכם שלום שני בין גרמניה לפולין, אך בולסלאב הראשון הפר במהירות את ההסכם, ושוב פלש ללוסאטיה, וכוחותיו כבשו את העיר לובוש ושרפו אותה. בשנת 1013 נחתם הסכם שלום שלישי במרזבורג, המחייב בין השאר את בולסלאב כואסל של היינריך השני, בתמורה לקבלת מרקיזות מייסן ומרקיזות לוסאטיה כפייף. על מנת לחזק את ההסכם, בנו של בולסלאב - מיישקו השני לאמברט התחתן עם ריכצה מלורן, בתו של אצו, רוזן הפלטינט של לותרינגיה ונכדתו של אוטו השני, קיסר האימפריה הרומית הקדושה.
ההכתרה כקיסר.
בשנת 1009 מת האפיפיור יוחנן השמונה עשר, ששלט משנת 1003, ובמקומו הוכתר סרגיוס הרביעי. במהלך שלטונם של השניים שלט ברומא למעשה ג'ובאני קרסנציו, ממשפחת קרסנטי, והוא מנע מהם להיפגש עם היינריך השני ולהכתירו כקיסר. בשנת 1012 מת סרגיוס הרביעי, ובמקומו הוכתר בנדיקטוס השמיני. אולם, בנדיקטוס השמיני נאלץ לברוח עד מהרה מרומא על ידי האנטי-אפיפיור גרגוריוס השישי, אשר הוכתר על ידי ג'ובאני קרסנציו. בנדיקטוס השמיני, שנמלט על פני הרי האלפים לגרמניה, פנה אל היינריך השני וביקש את הגנתו, ואכן היינריך הסכים להחזיר את בנדיקטוס השמיני לכס האפיפיור, בתמורה להכתרתו כקיסר.
לקראת סוף שנת 1013, כינס היינריך השני צבא באאוגסבורג, ועד מהרה עבר עם צבאו את הרי האלפים, תוך שהוא מלווה באשתו, המלכה קוניגונדה ובכמה אנשי דת. בהגיעו לפאביה הצטרפו אליו הבישופים וראשי הדת האחרים. ארדואינו מאיבראה, שעדיין שלט בחלקים חשובים של צפון איטליה, הציע להיכנע להיינריך, והציע אף את בניו כבני ערובה, בתנאי שהיינריך יכיר בו כמלך איטליה, אולם היינריך סירב והטיל מצור על איבראה עד לשנת 1015.
בתחילת 1014 הגיע היינריך השני לרומא, והחזיר את בנדיקטוס השמיני לכס האפיפיור. ב-14 בפברואר 1014 הכריז האפיפיור על היינריך השני כעל קיסר האימפריה הרומית הקדושה בבזיליקת פטרוס הקדוש. לאחר מכן קיימו השניים סינוד ברומא, ובו מינו חמישה בישופים, והוציאו צווים נגד הסימוניה, וקידמו דרכים לקיום הצניעות בקרב אנשי הדת, והורו על השבת רכוש הכנסייה. זמן קצר לאחר מכן, עבר היינריך צפונה, שם הקים את הדיוקסיה של בוביו, ולאחר מכן חגג את חג הפסחא בפאביה, ובאמצע מאי 1014 חזר לגרמניה. הוא השאיר את שלטונו של רומא על האפיפיור, ומאוחר יותר התערבה בפוליטיקה של איטליה או של מדינות האפיפיור.
בשנת 1015 הסתיים הסכסוך עם ארדואינו מאיבראה, כאשר ארדואינו חלה, וביקש שלום עם היינריך השני. ארדואינו התפטר מתפקידו כמרקיז איבריאה, על מנת להיות נזיר במנזר פרוטואריה. ארדואינו נפטר ב-14 בדצמבר 1015, ולאחר מותו ירש היינריך את נחלות מרקיזות איבראה.
מלחמת פולין השלישית.
הסכם השלום שנחתם בשנת 1013, בין היינריך השני לבולסלב הראשון, דוכס פולין התפוגג במהירות. בשנת 1014 בעת שהיינריך השני נעדר מגרמניה, שלח בולסלב את בנו מיישקו השני למברט לדוכסות בוהמיה, על מנת לשכנע את הדוכס הבוהמי החדש אולדריץ' לכרות עמו ברית נגד היינריך השני. אולם, המשימה נכשלה ואולדריץ' כלא את מיישקו השני, והוא שוחרר רק לאחר התערבות הקיסר, שלמרות הפלישה המתוכננת לפולין, פעל בנאמנות למען הווסל הנומינלי שלו בולסלב הראשון. לאחר שחרורו נשלח מיישקו השני לחצרו של היינריך השני במרזבורג כבן ערובה. היינריך רצה כנראה לאלץ את בולסלב הראשון להגיע למרזבורג ולהסביר את מעשיו, אולם התוכנית נכשלה, ולאחר לחץ מצד קרוביו, הסכים היינריך לשחרר את מיישקו השני.
באותו זמן, היינריך השני אירח את יארוסלאב הראשון, נסיך קייב, הטוען לכתר ברוס של קייב, ובנו של ולדימיר הראשון, נסיך קייב. בזמן מותו של אביו בשנת 1015, היה יארוסלאב נסיך הכתר של נסיכות נובגורוד. יארוסלאב לחם על השלטון באחיו סוויאטופולק הראשון, נסיך קייב, שנתמך על ידי חתנו בולסלאב הראשון, דוכס פולין שהיה חתנו.
לאחר חזרתו של היינריך השני לגרמניה בשנת 1015, לאחר הכתרתו לקיסר על ידי האפיפיור בנדיקטוס השמיני, הכין היינריך את כוחותיו לפלישה שלישית לפולין. עם שלושה צבאות בפיקודו, הכוח הגדול ביותר מאז תחילת הסכסוך בשנת 1004, צעד הצבא הקיסרי בעת ובעונה אחת בתנועת מלקחיים מצפון גרמניה, מדרום וממרכז. היינריך השני עצמו פיקד על הצבא המרכזי, אשר נתמך על ידי שבטים סלאביים, עבר עם כוחותיו ממגדבורג, וחצה את נהר האודר לפולין. היינריך השני נתמך על ידי אולדריץ', דוכס בוהמיה מדרום, ומהצפון על ידי ברנהרד השני, דוכס סקסוניה.