לאחר קשר העשרים ביולי בו ניסתה קבוצת קציני צבא בראשותו של קלאוס שנק פון שטאופנברג לרצוח את היטלר, גילה רונדשטט נאמנות להיטלר. הוא הסכים להצטרף לוילהלם קייטל ולהיינץ גודריאן ב"בית דין של כבוד", אשר בו היו גם חברים ולטר שרוט וקרל וילהלם שפכט, שנועד להדיח קצינים המעורבים בקשר מן השירות הצבאי. היה זה כתם על המוניטין של רונדשטט כ"א-פוליטי". בית דין זה אמנם היה מוסמך רק להדיח קצינים אלה מן השירות, אך למעשה משהודחו הקצינים מן השירות נחשפו למערכת "בתי הדין העממיים" בראשותו של רולנד פרייזלר, בהם הועמדו למשפט קצר ומשפיל, בסיומו נדונו למוות משפיל ואכזרי, כאשר נתלו במיתרי פסנתר שהיו מחוברים לתקרה באמצעות אנקולי קצבים. בין הנידונים באופן זה היו רעיו הוותיקים של רונדשטט לנשק.