ב-19 בספטמבר 1947 נכנס פורסטל לתפקיד מזכיר ההגנה - האדם הראשון שמילא תפקיד זה. 18 חודשי שירותו היו רוויים במאורעות ומתחים בינלאומיים, לרבות הקמת המשטרים הקומוניסטיים במזרח אירופה, הסגר על ברלין, מלחמת האזרחים הסינית ומלחמת העצמאות בארץ ישראל. בנוסף התאפיינה תקופת כהונתו בתחרות עזה על שטחי פעולה ומשאבים בין זרועות הכוחות המזוינים, במיוחד חיל האוויר והצי. גם חולשת סמכויותיו של מזכיר ההגנה (מציאות שהשתנתה בעקבות המלצותיו של פורסטל, אך רק לאחר תום כהונתו) הכבידה עליו.