במהלך חורף 1931, מרבית החבורה, לרבות נלסון, היו מאחורי סורג ובריח. עיתון "השיקגו טריביון" החלו לכנות את מנהיג החבורה נלסון, שנידון לשנה עד מאסר עולם, בכינוי ג'ורג "בייבי פייס" נלסון. בפברואר 1932, נלסון ברח בזמן העברת אסירים. באמצעות קשריו בחבורת טוהי, נלסון הצליח לברוח מערבה ולמצוא מחסה בצוותא עם מנהיג חבורת פושעים אחרת בשם ויליאם גראם. אגב שימושו בשם הבדוי "ג'ימי ג'ונסון", נלסון הצליח להגיע לסוסליטו, קליפורניה, והחל לעבוד שם עבור מבריח אלכוהול בשם ג'ו פארנטה. הסברה גורסת, כי, או אז, בזמן קורותיו של נלסון באזור המפרץ של סן פרנסיסקו, פגש נלסון לראשונה את ג'ון פול ופאסטו נגרי, שני גברים שהיו שותפיו לפשע במחצית השנייה של קריירת הפשע שלו.
בזמן שהיה ברינו בחורף שלאחר מכן, נלסון פגש באלווין קארפיס (חבר בכנופיית הפשע של אמא בארקר) שנפש באזור, אשר בתורו הכיר לנלסון את שודד בנק מידווסטרן אדי בנז. נלסון בחוברו לאחרון, חזר בקיץ שלאחר מכן לבנק מידווסטרן, ובסיועו הוא ביצע לראשונה בחייו ב-18 באוגוסט 1933 את שוד הבנק הגדול ביותר שעשה עד כה. השוד כמעט היה אסון גדול, אף על פי שמרבית בני החבורה המעורבים הצליחו להימלט בצורה חלקה.
מנהיג חבורה.
שוד הבנק האחרון שביצע, ככל הנראה שכנע את נלסון כי הגיע שעתו להתקדם ולהנהיג חבורת פושעים משל עצמו. באמצעות קשריו במסבאת סיינט-פול לאנטרן, נלסון גייס את הומר ואן-מטר, טומי קארול ואדי גרין. בסיועם של אנשים אלו (ועוד שני גנבים מקומיים), נלסון שדד ב-23 באוקטובר 1933 את הבנק הלאומי הראשון בעיר בריינירד שבמדינת מינוסוטה ויצא עם שלל של 32,000$. עדי ראייה סיפרו שנלסון ריסס כדורים במכונת הירי האוטומטית שלו באופן משולח כל רסן לעבר עוברי אורח תמימים בשעה שנמלט לאחר מעשה מהבנק. לאחר שאסף את אשתו הלן ובנו רונלד בן הארבע, נלסון עזב עם חבורתו לסן אנטוניו, טקסס. שם, קנו בני החבורה מספר כלי נשק מיצרן כלי הנשק של העולם התחתון היימן לבמן. אחד מכלי הנשק הללו היה אקדח קולט 38 מ"מ שבוצע בו שינוי כך שיוכל לירות באופן אוטומטי. ברבות הזמן, כמספר חודשים לאחר מכן, נלסון ישתמש בכלי נשק זה על מנת לרצוח את סוכן ה-FBI וו. קארטר באום.
ב-9 בדצמבר באותה שנה, אישה מקומית הודיעה למשטרת סן אנטוניו בדבר הימצאותה של "חבורת גנגסטרים" בתחום סמכותם המקומית. יומיים לאחר מכן, טומי קארול נלכד על ידי שני בלשים, פתח באש, והרג את בלש ה.סי. פיירין, אגב פציעתו של הבלש השני אל הרטמן. כל חבורתו של נלסון, למעט נלסון, ברחו מסן אנטוניו. נלסון ואשתו נסעו מערבה לאזור המפרץ בסן פרנסיסקו, שם גייס נלסון את ג'ון פול צ'ייס ופטסו נגרי לצורך ביצועם של שודי בנק עתידיים בתקופת האביב הקרוב.
שותפות עם ג'ון דילנג'ר.
ב-3 במרץ 1934, ג'ון דילניג'ר ביצע את בריחתו המפורסמת מבית הכלא בקראון פויינט, אינדיאנה, באמצעות שימוש באקדח עץ מגולף. אף על פי שפרטי המקרה נותרו חלוקים, נחשד כי הבריחה אורגנה ומומנה על ידי חברים בחבורת הגנגסטרים החדשה שגויסה על ידי נלסון – שבכללם: הומר ואן מטר, טומי קארול, אדי גרין וג'ון "האדום" המילטון – אגב הבנתם, שחלק מכספי השקעתם זאת יוחזרו על ידי דילנג'ר מכספי השוד הראשון.
בלילה שדילנג'ר הגיע לערים התאומות, נלסון וחברו ג'ון פול צ'ייס נחתכו בכביש על ידי מכונית הנהוגה על ידי סוכן מכירות בשם תיאודור קידר. כתוצאה מכך, נלסון איבד את מזגו, החל במרדף אחרי המכונית החותכת עד לסיבוב הכביש, ולבסוף, כאשר סוכן המכירות יצא מרכבו למחות בגין התנהגותו זאת, הוא ירה בו באופן קטלני.
כיומיים לאחר אירוע זה, חבורתו החדשה של נלסון (כאשר שאלת השתתפותו של המילטון נתונה בספק) שדדו את בנק בסיאוקס פולס, במדינת דרום דקוטה. במהלך השוד, אשר הניב שלל המעורך בסכום של 49,000$, נלסון פצע אנושות את שוטר המקוף האופנוען הייל קית' באמצעות ירי מסיבי מתת המקלע שברשותו, בשעה שהלז הגיע על אופנועו לזירת הפשע.
מעת התרחשותו של מקרה זה לא רחק היום בו ששת הגברים נודעו כ"חבורת דילנג'ר השנייה", וזאת, בעיקר בשל המוניטין הידוע לשמצה של דילנג'ר. אולם, בפועל, דילנג'ר לא היה כלל מנהיג החבורה, ולמעשה, לחבורה לא היה מנהיג כלל. ב-13 במרץ 1934, החבורה ביצעה שוד נוסף בבנק הלאומי במייסון סיטי, מדינת אייווה. דילנג'ר והמילטון נפצעו במהלך שוד זה, שבמהלכו הם ברחו עם שלל של 52,000$. ב-3 באפריל, סוכנים פדרליים ארבו והרגו את אדי גרין, למרות היותו לא חמוש ואף על פי שבשעה שהרגוהו הם לא היו בטוחים בזהותו. באנדרלמוסיה שהתחוללה לאחר השוד, נלסון וג'ון פול צ'ייס ברחו מערבה לרינו, היכן שהבוסים הקודמים שלהם ביל גרהם וג'ים מאקי נאבקו בהרשעתם בהונאה הקשורה לדואר הפדרלי. שנים לאחר מכן, ה-FBI יקבע שב-22 במרץ 1934, נלסון וצ'ייס חטפו את העד הראשי כנגד השניים, רוי פרטיש, והרגוהו. בעניין זה נאמר כי גופתו של פרטיש, על אף שלא נמצאה מעולם, ככל הנראה נזרקה לפיר של מכרה נטוש.
תקרית הירי במלון הבוהמיה הקטנה.
בשעות אחר הצהריים של 20 באפריל, נלסון, דילינג'ר, ואן מטר, קארול, המילטון, ואדם נוסף המזוהה כמקורב לחבורה פאט ריילי, מלווים על ידי אשתו של נלסון ושלוש בנות זוגם של בני החבורה, הגיעו למלון "הבוהמיה הקטנה" המבודד בעיירה מאניטואוייש-ווטרס, במדינת ויסקונסין לשם נופש בסופ"ש. הקשר של הנופשים למקום הנופש נבע ככל הנראה מעסקאות קודמות שהתרחשו במקום בין עורך דינו של דילינג'ר, לואיס פיקוויט, ובעל המלון אמיל וואנאטקה. אף על פי שבני החבורה בירכו את האחרון בשמו הפרטי, ציין האחרון שהוא לא היה בטוח בזהותם עד זמן מאוחר יותר מרגע הגעתם בליל שישי.
יום למחרת, בזמן שאשתו של וואנאטקה בילתה עם ילדיה במסיבת ילדים מחוץ למלון, היא יידעה קרוב משפחה שחבורתו המפורסמת של דילנג'ר מבלה את זמנה במלון, וככל הנראה מכאן יודע בדבר עובדה זאת ה-FBI השכם לבוקר 22 באפריל. מלווין פרביס ומספר סוכני הסוכנות הפדרלית הגיעו במטוס משיקגו, ומשום שמועד עזיבתם של בני החבורה מהמלון היה קרוב, נטלו הללו יוזמה ופצחו בהסתערות על המלון, מבלי שטרחו ליידע את הגורמים הרלוונטיים בנושא, או ניסו להשיג עזרה מכוחות השיטור המקומיים.
בימי ראשון בערב הציע וואנאטקה מבצעי ספיישל של ארוחות ערב בעלות של דולר אחד, ואחרוני הסועדים עזבו את המסעדה במלון בשעה שהסוכנים הפדרליים הגיעו אליו. בשעה זאת, מכונית מסוג שברולט קופה דגם 1933 ובה שלושה לקוחות המסעדה עזבה את האזור, וייתכן שיושביה לא שעו לקריאות "עצור!" בשל כך שהרדיו פעל בה. הסוכנים הפדרליים פתחו באש על יושבי המכונית, הורגים את אחד מיושביה ופוצעים את השניים האחרים, ולמעשה במעשיהם זה הודיעו לבני החבורה על הגעתם.
לתוך אנדרלמוסיה זאת, מגיע פאט ריילי מסידורים שערך מחוץ לעיר בעבור ואן מטר, מלווה על ידי אחת הנשים.
הסוכנים, בהבחינם באחרון, החלו יורים לעברו, והלה נמלט מהזירה עם תקר באחד מגלגלי מכוניתו שנוצר כתוצאה מהירי לעברו.
עם תחילת התקרית, דילינג'ר, ואן מטר והמילטון נמלטו מהדלת האחורית של המלון שהייתה ללא שמירה, שמו פעמיהם צפונה דרך חורשת עצים ואגם, ובמרחק מייל אחד ממיקומו הגאוגרפי של המלון הצליחו להחרים כלי רכב על נהגו. קארול לא היה רחוק מאחוריהם ולצורך בריחתו הוא נעזר בכלי רכב שהוא גנב ממלון אחר.
נלסון, שבתחילת הפשיטה של הסוכנים הפדרליים על המלון היה ספון באחת הבקתות הסמוכות, יצא עם תחילתה, באופן כל כך אופייני לאישיותו, בהסתערות חזיתית אל עבר חבורת הסוכנים הפדרליים, יורה אל עבר פרביס, לפני שנסוג בחזרה למלון עקב ירי מסיבי שנורה לעברו על ידי הסוכנים האחרים. משם, הוא חמק מצידו האחורי של המלון, וברח בכיוון מנוגד לכיוון בריחתם של יתר בני חבורתו. כעבור תשעים דקות, בהגיחו במרחק של מייל אחד מהמלון מתוך חורשת היער, נלסון חטף את בני הזוג לאנג מביתם ופקד עליהם להסיעו משם. ככל הנראה בשל מהירותה הנמוכה של המכונית, נלסון הורה לבני הזוג לעצור ליד בית מואר, עת שהמתגורר בו אלווין קורנר, אשר היה מודע להתרחשויות האחרונות במלונות השונים בסביבת מגוריו, התקשר בזריזות לרשויות על מנת לדווח על מכונית חשודה שמעצרה בחזית ביתו. זמן קצר לאחר שנלסון נכנס לבית, ולקח את בני הזוג קורנר בני ערובה, אמיל וואנאטקה הגיע למקום עם בעלה של אחותו ואחד מעובדי המלון (וזאת בשעה שאדם רביעי נותר במכונית), ואף הם נלקחו אסירים. נלסון הורה לקורנר ווואנאטקה להיכנס בחזרה לרכב, היכן שהאדם הרביעי נותר בספסל האחורי מבלי שנלסון הבחין בו.
בשעה שהם התכוננו לעזוב, כאשר וואנטאקה אחראי על הנהיגה תחת איומי אקדח, הגיעה מכונית נוספת לחזית הבית עם שני סוכנים פדרליים – וו. קארטר באום וג'יי.סי. ניומן, ושוטר מקוף מקומי, קארל כריסטנסן. נלסון הצליח להפתיע את השלושה, ובאיומי אקדח הורה לשלושה לצאת מרכבם. בשעה שנהג הרכב, ניומן, יצא מהרכב, נלסון אשר ככל הנראה הבחין בתנועה חשודה, פתח בירי לעברו, ובכך, פצע אנושות את כריסטנסן וניומן והרג את באום.
נלסון לאחר מכן צוטט כמי שאמר שאלמנט ההפתעה היה לצידו של באום, ולכן, הוא איננו מבין מדוע הוא לא ירה. בדיקה שתערך לאחר המקרה תגלה כי נשקו של באום היה עדיין נצור.
נלסון נמלט מזירת הפשע ברכבם של הסוכנים. כעבור כ-15 מייל, היה למכונית תקר בגלגל, ושאריות הצמיג שנותרו היו מרוחות בבוץ, דבר אשר הקשה על נלסון להחליף את הגלגל ואילצו להמשיך בהימלטות רגלית. נלסון נמלט לתוך החורשה, ומצא מפלט למספר ימים בביתם של משפחת צ'יפווה, בטרם המשיך בבריחתו בעוד רכב שהצליח להחרים.