באוקטובר 1857 קיבל פרידריך וילהלם הרביעי, המלך הפרוסי, שבץ מוחי. אחיו, וילהלם הראשון, עלה לשלטון כעוצר הממלכה. וילהלם הראשון נתפס תחילה כשליט מתון, אשר ידידותו עם בריטניה הליברלית באה לידי ביטוי בנישואי בנו, פרידריך וילהלם, לבתה הבכורה של המלכה ויקטוריה; בנם עתיד להיות וילהלם השני, שליט האימפריה הגרמנית במהלך מלחמת העולם הראשונה. ביסמרק מונה על ידי העוצר לשגריר פרוסיה באימפריה הרוסית. לכאורה, היה מדובר בקידום, שהרי רוסיה הייתה אחת משתי שכנותיה העוצמתיות ביותר של פרוסיה. אולם, ביסמרק נדחק הצידה מן האירועים בגרמניה ונאלץ לצפות מן הצד, בחוסר אונים, כאשר צרפת סילקה את אוסטריה מלומברדיה במהלך מלחמת אוסטריה-סרדיניה. ביסמרק טען שפרוסיה צריכה לנצל את חולשתה של אוסטריה ולהעביר את גבולותיה דרומה ככל הניתן, עד לימת קונסטנץ, על הגבול השווייצרי. במקום זאת, פרוסיה גייסה חיילים בחבל הריין על מנת להרתיע מפני התקדמות צרפתית נוספת לוונציה.
העוצר, שזלזל בביסמרק כלויטננט במילואים, סירב לקדמו לדרגת גנרל-מיור, כמקובל אצל השגרירים בסנקט פטרבורג. זה היה סירוב משמעותי משום שפרוסיה ורוסיה היו בעלות ברית צבאיות קרובות, ששליטיהן תקשרו לרוב באמצעות אנשי קשר צבאיים ולא דרך ערוצים דיפלומטיים. ביסמרק שהה בסנט פטרסבורג במשך ארבע שנים, שבמהלכן הוא כמעט איבד את רגלו בטיפול רפואי כושל ופגש שוב את יריבו לעתיד, הנסיך הרוסי גורצ'קוב, שהיה הנציג הרוסי בפרנקפורט בשנות החמישים של המאה התשע עשרה. בנוסף לכך, העוצר מינה את הלמוט פון מולטקה לראש המטה הכללי של הצבא הפרוסי ואת אלברכט פון רון לשר המלחמה, והטיל עליהם לארגן מחדש את הצבא. במהלך 12 השנים הבאות, השניים האלה וביסמרק ישנו את פניה של פרוסיה. מאוחר יותר תיאר ביסמרק תקופה זו כ-"התקופה המשמעותית ביותר בחיי". במהלך כהונתו ברוסיה הוא כה הרשים את הצאר הרוסי, עד שהלה הציע לו להצטרף לשירות הדיפלומטי הרוסי. ביסמרק סירב בנימוס.
אף על פי שהייתו הארוכה ברוסיה, ביסמרק לא היה מנותק לחלוטין בנעשה בעניינים פנים-גרמניים. הוא נותר מודע היטב הודות לידידותו עם רון, איתו ביסס ביסמרק ברית פוליטית יציבה. במאי 1862, הוא נשלח לפריז לשרת כשגריר בצרפת והוא ערך ביקור בבריטניה באותו הקיץ. ביקורים אלו אפשרו לו להכיר ולהעריך מספר יריבים: נפוליאון השלישי בצרפת, ובבריטניה את ראש הממשלה הנרי טמפל; את שר החוץ, הרוזן ג'ון ראסל, ואת הפוליטיקאי השמרני בנג'מין דיזראלי. ד'יזראלי התרשם מביסמרק מאוד, ובאחד ממכתביו כתב עליו:
ראש ממשלת פרוסיה.
המלך וילהלם חפץ בארגונו מחדש של הצבא הפרוסי בהתאם להצעה שהוגשה בידי מיניסטר המלחמה הגנרל פון רון. הרפורמה של רון כללה את הפיכתו של הצבא הפרוסי מצבא עממי לצבא מקצועי. וכן הארכת תקופת הגיוס חובה משנתיים לשלוש. אולם החוגים הליברליים במדינה התנגדו לרפורמות אלו, וכמוהם הפרלמנט שסבר שמהלך כזה יכפיף למעשה את הצבא לפקודתו האישית של המלך ויצמצם את כוח הפרלמנט. בלית ברירה השתמש הפרלמנט בנשק האחרון שעמד לרשותו, וסירב לאשר את התקציבים שדרש המלך לצורך ביצוע הרפורמות. המלך מצדו הזעיק אותה שנה את ביסמרק חזרה לברלין ומינה אותו כקנצלר. המלך האמין שביסמרק הוא היחיד שיוכל להושיע אותו במצב זה.
ביסמרק האמין שהכוח המניע של תנועת הלאומיות חייב לבוא מהשלטון בצורת הפעלה מחושבת של כוחות צבא וכוחות דיפלומטיים, ולא כהתקוממות עממית ליברלית. תפיסת לאומיות זו נקראה "דם וברזל", והייתה מנוגדת לתפיסה הלאומית שבאה לידי ביטוי באביב העמים. על כן קיבל ביסמרק את הכינוי "קנצלר הברזל". כבר בנאום השבעתו הצהיר ביסמרק:
רפורמות צבאיות.
מינויו של ביסמרק הידוע בהשתלחויותיו כלפי הפרלמנט וכלפי הליברלים כקנצלר, גרם לסערה בפרוסיה, והחריף את הסכסוך בין המלך לפרלמנט. אולם ביסמרק הבטיח למלך לדאוג לביצוע הרפורמות הצבאיות ויהי מה. ביסמרק, השיג את התקציבים הנחוצים מהאוצר חרף מחאות הפרלמנט. ולאחר מכן יחד עם רון והמלך החל בביצוע הרפורמות שנועדו להפוך את פרוסיה למעצמה צבאית ראשונה במעלה. לטעמם של המלך וביסמרק, מצבו של הצבא היה מדורדר עקב שנות השלום ועקב חדירת ליברלים רבים מדי לשורותיו. הם ביקשו לחזק את הצבא גם אל מול האיום שנשקף עקב מלחמת אוסטריה-סרדיניה. רון ביקש להפוך את הצבא לצבא-קבע מקצועי ולהעלות את כוחם של אנשי הקבע בצבא על פני צבא ה"לנדוור" העממי, קצינים אלה הגיעו משורות משפחות האצולה הנאמנות לבית הוהנצולרן ומקרב מעמד היונקרים. מי שמימש את הרפורמה בפועל היה ראש המטה הכללי של הצבא, הגנרל הלמוט פון מולטקה הזקן, שכיהן בתפקיד בשנים 1857–1888. קציני הקבע הפכו למעמד בעל זכויות-יתר ולבעלי כוח פוליטי וחברתי גם לאחר שחרורם.
הסכסוך עם הסוציאליזם.
ביסמרק, רדף עד חורמה את ארגוני הפועלים והסוציאליסטים בפרוסיה. על פי החוקים שהעביר בפרלמנט בנושא זה נאסר על כל איגוד סוציאליסטי או קומיניסטי, צומצם חופש העיתונות, לארגונים סוציאליסטים נאסר לגייס תרומות וחבריהם נקנסו בסכום של 500 מרק או עונש מאסר של שלושה חודשים. עם זאת, ביסמרק גם ביקש לקנות את לבם של הפועלים באמצעות קשר עם נציג משלהם. ביסמרק החל להיפגש עם מנהיג תנועת הפועלים פרדיננד לסל. הפגישות החלו בחודשים שקדמו להקמת מפלגת הפועלים, ביוזמתו של ביסמרק. לאחר התגבשות רעיון הקונגרס הכללי של הפועלים, והתרחבות פעילות המפלגה הפרוגרסיבית והאיגודים, ביקש ביסמרק להרחיב את ראייתו אודות בעיית תנועת הפועלים. מפני שהיה מוקף בסביבה של יועצים שמרנים ודתיים, הזמין אליו נציג משורות השמאל. לסל נבחר מפני שבעיני ביסמרק, הוא לא היה קוסמופוליט כמו שאר הסוציאליסטים, אלא פרוסי הנאמן למלכו. המשך הקשר נבע מהקמת מפלגת הפועלים ותפקידו של לסל כמנהיג המפלגה.
לסל מצידו ראה בקשר עם ביסמרק פתח ליצירת ברית נגד הליברלים, אך בלי כוונה לשרת את הריאקציה. הפועלים שנאו את ביסמרק מפני שביקש לצמצם את חירותם, ולסל נאלץ לסנגר על הקשר איתו ביחס דו-ערכי; מצד אחד ראה בו אויב במטרה הסופית של תנועת הפועלים. מצד שני העריך אותו כי היה חומה בצורה נגד הליברלים, וגם קיווה שאולי ביסמרק והמלך יגלו הבנה לתוכניותיו בעניין תיקון מצבו של הפועל. בסופו של דבר הסתייגויותיו של לסל מן הריאקציה נשכחו, והקשר עם ביסמרק תרם לדימויו השלילי של לסל, אף כי לא נודעה להתקשרות ביניהם משמעות אפקטיבית ומעשית.
ביסמרק עצמו התרשם מאוד מאישיותו של לסל, הוא כותב:
מלחמות האיחוד.
ביסמרק הצליח להביא לאיחוד גרמניה על ידי פתיחה בכמה מלחמות. תחילה, בעקבות מחלוקת ארוכת שנים בנוגע לשאלת השתייכותן של הטריטוריות שלזוויג והולשטיין הנמצאות תחת שלטון דני והזדמנות שעמדה בפני ביסמרק (חילופי שלטון בממלכת דנמרק), החליט ביסמרק בפברואר 1864 לפתוח במלחמה נגד דנמרק בשיתוף פעולה עם אוסטריה. במלחמה זו, המכונה מלחמת שלזוויג השנייה, נכבשו שלזוויג והולשטיין ונלקחו מידי דנמרק. הסכם שלום נחתם בווינה ב-30 באוקטובר 1864.
סכסוך בין אוסטריה לפרוסיה על אופן השליטה במחוזות שנכבשו מדנמרק שימש עילה למלחמה שפרצה ב-1866 בין פרוסיה לאוסטריה ובעלות-בריתה מקרב המדינות הגרמניות הקטנות. במלחמה, שכונתה מלחמת שבעת השבועות, ניצחה פרוסיה, בעקבות ניצחון מכריע בקרב קניגרץ. תוצאת המלחמה הייתה ביסוס מוחלט של ההגמוניה הפרוסית בגרמניה, ודחיקת השפעתה של אוסטריה. פרוסיה סיפחה מספר מדינות גרמניות (הנובר, הסן-קאסל, נסאו ופרנקפורט) וגיבשה את מרבית המדינות הנותרות לגוף אחד בשם הקונפדרציה הצפון-גרמנית. ביסמרק התנגד להצעות של אחדים ממנהיגי הצבא להרחיב את כיבושיה של פרוסיה דרומה, לבוהמיה או אף לאוסטריה עצמה, בין היתר עקב אי-רצונו להגדיל את חלקה של האוכלוסייה הקתולית במדינה.