בשבועות הראשונים של בניית החומה הונחה בעיקר גדר תיל בסיסית, שתוגברה בלוחות בטון בגובה של כשני מטרים ובעמודי עץ. לאור הגינויים הפושרים שקיבלו מהמערב, עברו המזרח-גרמנים לשלב הבא - הפיכת הגדר לחומה לאורך התוואי שנקבע. ב-20 בספטמבר 1961 דנו הונקר ומטהו בליקויים שנמצאו בגדר הגבול. בישיבה התגלעו חילוקי דעות בשאלה האם יש לעבור מגדר תיל לחומה מבוצרת. תמיכתו של אולבריכט בעמדתו של הונקר הכריעה את הכף לטובת החומה.
ההצעות שעלו בישיבה - להקים חומת גבול משולבת בתעלות נגד כלי רכב, ליצור "דרך טשטוש" שתקל על איתור נמלטים, וחסימה של מערכות הביוב שגם דרכן עברו הבורחים - כל אלה נפלו על אוזניים קשובות ויושמו בהדרגה. עוד הוחלט בישיבה על פינוי מוחלט של תושבי הבתים שגבלו בתוואי הגדר, ואלה אכן פונו בשבועות שלאחר מכן. עוד נקבע בישיבה כי ניתן לירות בחוצי הגבול. הוראות הפתיחה באש, שהגבילו את הירי לעבר רגליו של הנמלט, ורק לאחר אזהרה מפורשת וירי באוויר, הפכו לאות מתה.
באוקטובר 1961 עוד הצליחו צעירים ממערב העיר לגזור ולפנות קטע של גדר תיל, ו-22 ברלינאים מהמזרח הצליחו לחמוק מערבה. בסוף 1961 ותחילת 1962 נעשו מספר ניסיונות לפוצץ את החומה באמצעות TNT, אך הם לא גרמו לנזק ממשי.
ב-1962 הוחל בהקמתה של גדר נוספת, משופרת, מקבילה לראשונה, בעומק של כ-80 מטר לתוך הצד המזרח גרמני ("החומה האחורית"), כשבתים בין שתי הגדרות נהרסים ותושביהם מועברים למקומות אחרים. התווך בין שתי הגדרות הוכרז כשטח סטרילי, שלימים נודע בשם "רצועת המוות". אזור חיץ זה כוסה בשכבת חצץ מגורפת, שנועדה להקל על מציאת עקבות. לאורך הגדר הוצבו מגדלי שמירה שמספרם הגיע בשיאו ל-302. בין השנים 1965 ל-1975 נבנה "הדור השלישי" של החומה, שכלל את הגבהתה והפיכתה למכשול מבוצר, כמעט בלתי חדיר.
הדור הרביעי של החומה: מ-1975 ועד נפילתה.
ב-1975 החל השלב הרביעי בבניית החומה, שהסתיים ב-1980. על תוואי החומה הונחו לוחות בטון מזוין ענקיים, בגובה של 3.6 מטרים וברוחב של 1.20 מטר, שכל אחד מהם שקל 2.75 טונות. חלקם העליון כוסה בצינור מעוגל, שהקשה עוד יותר על הטיפוס. הלוחות לבדם עלו לממשלת מזרח גרמניה יותר מ-16 מיליון מארק מזרח גרמני. (כ-3.6 מיליון דולר אמריקני).
לוחות אלה הם החומה המוכרת מהצד של ברלין המערבית. ואולם, החומה כללה עוד מספר אלמנטים בצד המזרחי, ברצועה שרוחבה היה עשרות מטרים (במקומות מסוימים, כמו כיכר פוטסדאם- מאות מטרים) שטח סטרילי שהיה סגור לאזרחים, ושנקרא בשם "רצועת המוות".
בין האמצעים לעצירת הבורחים ניתן למנות:
לאורך החומה הוצבו מגדלי שמירה ובונקרים.
לא היו בחומה שני אלמנטים שהיו קיימים בגדר הגבול בין שתי הגרמניות - מוקשים נגד אדם ומקלעים מופעלים אוטומטית (ללא מגע יד אדם).
התגובות להקמת החומה.
התגובות הבינלאומיות לבניית החומה היו פושרות. מזכיר המדינה האמריקאי, דין ראסק, הגיב ב-13 באוגוסט בהצהרה רפה, בתיאום עם הנשיא קנדי, כי "הצעדים שננקטו עד כה מכוונים כלפי תושבי ברלין המזרחית וגרמניה המזרחית, ולא כלפי מעמדן של בעלות הברית בברלין המערבית או דרכי הגישה אליה".
ראשי המעצמות האחרות, הרולד מקמילן בבריטניה והגנרל דה גול בצרפת, נמנעו מתגובה פומבית מיידית. בריטניה הייתה טרודה בבעיות כלכליות מבית, וצבאה היה עדיין מעורב בסכסוך עם עיראק בשאלת כווית. צרפת הייתה שקועה עד צוואר באלג'יריה. לפיכך, כל עוד לא נפגע מעמדן, העדיפו להתעלם מסוגיית החומה.
מפקדי הכוחות המערביים בברלין נפגשו עם וילי ברנדט, ראש עיריית ברלין המערבית. הם ביקשו להוציא הודעה שתביע מחאה על הצעד הסובייטי החד-צדדי, וסולידריות עם תושבי ברלין המערבית, ואולם בשיחת טלפון עם עוזרו של מזכיר המדינה בוושינגטון קיבל המפקד האמריקאי הוראה ברורה לא לפרסם שום הודעה. תושבי ברלין נאלצו להסתפק בהודעת מחלקת המדינה.
תגובתו של קנצלר גרמניה, קונראד אדנאואר, הייתה מאופקת להפליא: "יחד עם בעלי בריתנו, אמצעי הנגד הדרושים מיושמים. ממשלת מערב גרמניה קוראת לכל הגרמנים לתת אמון באמצעים אלה. יש חשיבות עליונה להגיב בתקיפות אך בשלווה על הפרובוקציה של המזרח ולא לעשות דבר שיכול להפוך את המצב לקשה יותר מבלי לשפרו"
לעומתו, יריבו הפוליטי וילי ברנדט, שסייר לאורך תוואי הגדר ביום הראשון להקמתה, נאם מאוחר יותר לפני הסנאט של ברלין המערבית, שפרסם הודעה המגנה את הפעולה בחריפות:
ההודעה והנאום שנשא ברנדט עוררו את רוגזו של הנשיא קנדי, ששאל: "מי הוא חושב שהוא?". היו שפירשו את התגובה המתונה של ארצות הברית בהשלמה עם ההשתלטות הסובייטית על מזרח ברלין, ובראייה מפוכחת של המציאות: אם הסובייטים בונים חומה בברלין, משמע שאין להם תוכניות להשתלט על העיר כולה, מעין גרסה של ריאלפוליטיק. בפועל, הסתכמה התגובה האמריקאית במשלוח תגבורת מינורית של 1,500 חיילים לכוחותיהם בברלין.
בגרמניה המערבית החליטו האיגודים המקצועיים (Gewerkschaftsbundes) על השבתת מחאה של התנועה והעבודה למשך רבע שעה ביום שלמחרת, 14 באוגוסט.
החיים בצל החומה.
הגדר גרמה לפיצול של תושבי ברלין בין שני חלקי העיר, ולמניעת יכולת המעבר של אזרחים ממזרח העיר למערבה, ולהפך. תושבים גילו לפתע כי אינם יכולים להיפגש עם קרוביהם וחבריהם שגרו רק מספר רחובות מהם.
"חוצי הגבול" (ה-Grenzgänger, מזרח גרמנים שבחרו לעבוד במערב), גילו שמקום עבודתם נמנע מהם. לחלקם נמצא מקום עבודה חלופי, אך הם סומנו כאויבי המפלגה, והוגבלו בסוגי המשרות שבהן היה ביכולתם לעבוד. חלקם נשלחו לעבוד בפסי ייצור של מפעלים ברחבי המדינה, ללא קשר להשכלתם ולרקע התעסוקתי שלהם. תלמידים שלמדו בכיתות גבוהות במערב הופלו גם הם לרעה, מחשש שישפיעו על חבריהם, ולא היו יכולים להמשיך ללמוד כרצונם.
לאחר הקמת החומה החל במזרח גל מעצרים של מתנגדי המשטר, ששכך עד סתיו 1962. השטאזי, המשטרה החשאית המזרח גרמנית, גדלה מאוד לאחר בניית החומה. בשנות השבעים עבדו בה יותר מ-50,000 איש במשרה מלאה, שהפעילו מאות אלפי מלשינים. המתנגדים למשטר היו חשופים להלשנה אף מצד עמיתים לעבודה, ולעיתים אף מצד קרובי משפחה.
כלכלית, הצליח המשטר לאפשר רמת חיים נאותה, בהסתמכו על תמיכות שקיבל ממדינות אחרות בגוש הקומוניסטי, ומשנות השמונים - על הלוואות שנטל מבנקים במערב. רמת החיים הייתה נמוכה במושגים מערביים, אך סבירה באופן יחסי למדינות מזרח אירופה. רוב התושבים החזיקו במכשירי חשמל בסיסיים, כמקרר ומכונת כביסה, ומיעוטם אף במכוניות, ברובן טראבנט או מתוצרת רוסית. חינוך ניתן בחינם, וכך גם טיפול רפואי ושירותים אחרים.
הדור החדש שנולד בסמוך למועד בניית החומה לא הכיר מציאות שונה מזו שאליה הורגל. כאשר חדרה תרבות הפאנק למדינה בסוף שנות השבעים, בני נוער שלא הלכו בתלם, ובחרו בהתנהגות אנטי-חברתית, לטעמו של המשטר, כמו היעדרות מבית הספר, גידול שיער ארוך, או כל סטייה אחרת מהנורמות שהוכתבו, היו מטרה להצקות בלתי פוסקות של חוקרי השטאזי ולעיתים קרובות מצאו את עצמם במוסדות לחינוך מחדש בתנאים מחמירים.
על תושבי העיר המזרחית נאסר לעבור למערב, למעט מקרים מיוחדים, ובהם גמלאים (מ-1964), ביקור קרובי משפחה בעניינים משפחתיים דחופים, ואנשי מקצוע בתחומים מסוימים, שהורשו לבקר במערב העיר. תושבי ברלין המערבית לא הורשו להיכנס לחלק המזרחי עד 1972, למעט במקרים מיוחדים. תושבי גרמניה המערבית שאינם תושבי ברלין, כמו גם תיירים ממדינות המערב, הורשו להיכנס לתחומי העיר המזרחית. לשם כך היה צורך להצטייד באשרה מתאימה מספר שבועות מראש.
"אני ברלינאי".
ב-1963 ביקר בעיר נשיא ארצות הברית ג'ון קנדי. הוא הפתיע את תושבי מערב העיר בנאום שנשא מול מאות אלפים מהם, ובו קרא בגרמנית את הקריאה המפורסמת: "אני ברלינאי". הוא תקף את החומה בחריפות שהדהימה את שומעיו, ובמיוחד את ראש העיר ברנדט, ששנתיים קודם לכן כמעט והתעמת עם קנדי באותו נושא, אלא שהפעם השניים התחלפו בגישתם. ברנדט נעשה פרגמטי הרבה יותר וקיבל את החומה בהשלמה. בשנים אלה הגה את "המדיניות המזרחית" - האוסטפוליטיק - שגרסה גישה של הפשרת יחסים עם המזרח.
ב-1964 כבר לא היו שלושה מהמנהיגים בתפקידם: קנדי נרצח, אדנאואר פרש וחרושצ'וב הודח. וילי ברנדט, ראש העיר של ברלין המערבית במועד תחילת הבנייה, ומנהיג המפלגה הסוציאל-דמוקרטית שצברה תאוצה, נבחר ב-1966 לשר החוץ של גרמניה. כשר חוץ יכול היה להתחיל ליישם את מדיניות האוסטפוליטיק, תחילה בזהירות, והחל מ-1969, משנבחר לקנצלר מערב גרמניה, ביתר שאת.
וכך, מאמצע שנות השישים, החלה גרמניה המזרחית לנוע בנתיב של הכרה כלל עולמית כמדינה גרמנית נפרדת. זליגת האוכלוסייה למערב פחתה לממדים אפסיים.
הסכם ברלין.
ב-1971 נחתם בין המעצמות הסכם ברלין, שבמסגרתו נחתמו מאוחר יותר הסכמים נוספים (ובהם הסכם המעבר - Transit Agreement) בין שתי הגרמניות, ויושמו הקלות שונות על המעבר בין חלקי העיר. גרמניה המזרחית נהייתה, יחד עם שכנתה המערבית, לחברה מלאה באו"ם ב-1973, ושתי המדינות הקימו נציגויות דיפלומטיות זו אצל זו.
ההסכם התיר לתושבי ברלין המערבית להיכנס לתחומי המזרח כתיירים, ולהיפגש עם בני משפחותיהם, אך נאסר עליהם ללון בעיר, והם נדרשו לעזוב עד חצות. במעברים הייתה חלוקה ל"תושבי מערב ברלין", "תושבי הרפובליקה הפדרלית" (גרמניה המערבית) ו"מדינות אחרות".