כפקיד בכיר במחלקת ההגנה מאז 1953, היה גייטס מודע לתהליכי הארגון מחדש של המחלקה שהתחוללו ב-1953 וב-1958. בהאמינו שלרשות המזכיר עומדות כל הסמכויות הנחוצות לו ושיהיה צורך בזמן כדי להעריך את הרפורמות של 1958 לטווח ארוך, הוא שלל את המאמצים לשינויים נוספים במחלקה. כמזכיר הצי לשעבר, שחווה את הירידה בכוחם של מזכירי הזרועות, הוא חש שעל מזכיר הזרועות לקחת על עצמם יותר ויותר והוא עודד אותם לעשות כן.
היחסים עם ראשי המטות המשולבים.
גייטס טיפח יחסי עבודה טובים עם ראשי המטות המשולבים. פחות מחודש לאחר שהחל לכהן כמזכיר ההגנה, הוא הזכיר להם על אחריותם לעדכן אותו על חילוקי הדעות ביניהם והציע להיפגש איתם כדי ליישב את המחלוקות ולהביא את הסוגיות שבמחלוקת לתשומת ליבו של הנשיא ולהחלטתו הסופית. עד מהרה נפגשו גייטס וראשי המטות לישיבות תקופתיות על בסיס קבוע, לא רק במקרים בהם התגלו ביניהם מקרים של אי הסכמה. מקורות בקונגרס ואחרים שיבחו את גייטס על לקיחת היוזמה לשיפור הן של המערכת הארגונית של ראשי המטות המשולבים והן את יחסיו עמם.
יוזמה נוספת של גייטס הייתה הקמתו של "צוות תכנון המטרות האסטרטגי המשותף" (Joint Strategic Target Planning Staff - JSTPS) באוגוסט 1960. עד אז התקיימו סדרי עדיפות שגויים ושנויים במחלוקת בשל תיאום בלתי מדויק בין פיקוד האוויר האסטרטגי לבין הצי. הבדלים אלו הפכו משמעותיים במיוחד עם כניסתם לשירות של מערכת הטילים הבליסטיים הימיים פולאריס. על סמך הצעתו של מפקד פיקוד האוויר האסטרטגי, גנרל תומאס ס. פאוור, שפיקוד האוויר האסטרטגי יהיה אחראי על בחירת המטרות לנשק להשמדה המונית, הקים גייטס את ה-JSTPS. מפקד הפיקוד האוויר האסטרטגי, בתמיכתם של ראשי המטות המשולבים, לקח על עצמו את תפקיד ראש צוות התכנון האסטרטגי החדש, כדי להיות, כפי שציין גייטס, "נציג התכנון של ראשי המטות המשולבים בצוות המתפתח ולעדכן אותם בפרטי התוכניות על פי הצורך".
כאשר ראש המבצעים הימיים, אדמירל ארלי ברק, התנגד להסדר זה, עודד אותו גייטס לשטוח את טענותיו בפני הנשיא אייזנהאור, שמידית תמך בהחלטתו של גייטס. לאחר מכן הביע ברק את הסכמתו להקמת ה-JSPTS ומינה קצינים ימיים ברמה מקצועית גבוהה כחברים בצוות.
בדצמבר 1960 כבר הכין הצוות את ה"תוכנית המבצעית המשולבת" (Single Integrated Operational Plan - SIOP) הראשונה שלו, שכללה תזמונים שונים של אפשרויות תקיפה, כלי נשק, מערכות שיגור ומטרות שיועסקו על ידי הכוחות האסטרטגיים של ארצות הברית.
תפקידו במדיניות ההגנה.
גייטס הקדיש יותר זמן בהשוואה לקודמיו, צ'ארלס א' וילסון וניל ה. מקלרוי, לפיתוח בסיס מדיניות ההגנה, תחום בו הנשיא המשיך להיות הדומיננטי. בעוד שהוא לא הנהיג שינויים רדיקליים בגישת "המבט החדש" (New Look), טבעם המשתנה של כלי הנשק הגרעיניים ושל מערכות השיגור שלהם, הצורך במערכות הגנה יבשתיות והשאלה הבוערת כיצד להתייחס למלחמת מקומיות או "מוגבלות", הכתיבו שינוי הדרגתי במדינות ההגנה.
בינואר 1960, כאשר ציין גייטס בשימוע בקונגרס, ששתי המטרות העיקריות של הגנת ארצות הברית הן "למנוע את פריצתה של מלחמה כוללת על ידי תחזוקה ושיפור של היכולת הנוכחית שלנו לנקום ביעילות הרסנית במקרה של מתקפה כוללת עלינו או על בעלות בריתנו" ו"לתחזק, בשיתוף פעולה עם בעלות בריתנו, יכולות להפעיל במצבים מקומיים את עוצמת הכוח הנחוצה למנוע מלחמות מקומיות, או לנצח בהן מיידית במקרה והן פורצות".
גייטס לא ראה שום הבדל בכוחות הדרושים למלחמה כוללת לבין אלו הדרושים למלחמה מוגבלת. כפי שהוא ציין, "כל הכוחות מהווים גורם הרתעה ויופעלו במסגרת מלחמה כוללת. רוב הכוחות שלנו מסוגלים לפעול במלחמה מוגבלת, אם יידרשו לעשות כן". הוא ציין כדוגמה את העובדה שנושאות המטוסים "הן ככל הנראה הבסיס הטוב ביותר של המדינה למלחמה מוגבלת, בראש ובראשונה בשל העובדה שהן מוצבות באזורים הבעיתים ברחבי העולם ויש להן יכולות לתגובה מידית". עם זאת, הוא הוסיף, הן מסוגלות לתרום לכוחות ההתקפה האסטרטגיים במסגרת מלחמה כוללת.
דעותיו על כלי נשק אסטרטגיים.
במהלך התקופה בה שימש גייטס כמזכיר ההגנה, שתי מערכות טילים, הטילים הבליסטיים הבין-יבשתיים (ICBM) והטילים הבליסטיים המשוגרות מצוללות (SLBM), הצטרפו למפציצים המאוישים כדי ליצור מערכת שיגור נשק גרעיני "תלת-זרועית". כמו כן ננקטו בתקופת כהונתו צעדים למתן דגש רחב יותר על בחירת מטרות צבאיות של האויב הפוטנציאלי. לא רק שארצות הברית פיתחה או החלה להציב מגוון של מערכות טילים במהלך תקופה זו (אטלס, טיטן, מיניטמן והפולריס, גם ברית המועצות עשתה כן.
ההעדפה של ברית המועצות על בניית מערכות טילים בליסטיים בין-יבשתיים מבוססות קרקע, על פני הפעלת הנשק הגרעיני על בסיס מפציצים מאוישים, שבישרה מבחינתה של ארצות הברית איום בסדר גודל רחב כזה, יחד עם ההלם ששרר בעקבות שיגור הספוטניק, חייבו את האצת תהליך הפיתוח של מערכות הטילים האמריקאיות.
על גייטס, כמו מקלרוי, היה להתמודד עם המחלוקת בנוגע לפער הטילים. הוא התייחס אליה כאל סוגיית שווא, שהתבססה על הכשל של תומכי גישת פער הטילים להבחין בין תוכניות חלל לבין תוכניות צבאיות. כבר בתקופה שתוכנית הטילים הבליסטיים ארוכי הטווח של ארצות הברית החל לקרום עור וגידים בראשית שנות החמישים, צפה גייטס שפיתוח ראשי נפץ גרעיניים קטנים וקלים על ידי המדענים האמריקאים יאפשר לטילים הבליסטיים קטני המידה לשאת אותם.
הרוסים, מצד שני, התמקדו יותר ברקטות האצה גדולות מאוד שבהן הם עשו שימוש לשיגור לווייני חלל מוקדם יותר לפני שארצות הברית עשתה כן. גייטס אמר לוועדת הקונגרס, "אנו לא נמצאים בעמדת פיגור מאחורי הרוסים ביכולת הצבאית הכוללת שלנו... דבר אחד הוא להודות שאתה מפגר מאחור ביכולת לשגר מטען ייעודי גדול אל החלל, יכולת שנכון לעכשיו אין לה שום צורך צבאי, ודבר אחר הוא להודות שאנו מפגרים מאחור בנוגע ליכולת הצבאית הכוללת שלנו".
גייטס הודה שהסובייטים עלולים להחזיק ברשותם למספר שנים מועטות יותר טילים אסטרטגיים בהשוואה לאלו של ארצות הברית, ולהגיע אולי לשיא בשנת 1962, אך הוא דחה את האפשרות שפער טילים אמיתי אכן קיים. הסובייטים לא "ישיגו יכולת אסטרטגית שעלולה לפתות אותם להפעיל מתקפת פתע". גייטס ביסס את דעתו זו בין השאר על נתוני הערכות המודיעין השנויות במחלוקת, שלקחו בחשבון את כוונות ויכולות הסובייטים שהובילו אותם למסקנה שהפער בין מספר הטילים הסובייטיים לבין מספר הטילים האמריקאים ב-1962 או ב-1963 לא יהיה גדול בהרבה מזה שהוערך בתקופת כהונתו של מקלרוי.
דעותיו על הגנה משותפת.
כמו קודמיו, תמך גייטס בהשתתפותה של ארצות הברית בבריתות ביטחון קיבוצי ותוכניות לסיוע צבאי. הוא ראה בנאט"ו כגרעין אסטרטגיית ההתקדמות המהירה. כפי שהוא הציג זאת, "אם ננטוש את אסטרטגיית ההתקדמות המהירה שלנו לטובת מה שנקרא תפיסת "המבצר האמריקאי" (Fortress America), נהיה במהלך נסיגה לעולם ועד". הוא האיץ בקונגרס להמשיך לתקצב כראוי את תוכניות הסיוע הצבאי, שסיפקו תשואות גדולות לכספים שהושקעו בהן.
פרשת ה-U-2.
האירוע המרתק ביותר בתקופת כהונתו של גייטס כמזכיר ההגנה, היה ככל הנראה זה שהתרחש ב-1 במאי 1960, כאשר ברית המועצות יירטה במרחב האווירי שלה את מטוס הריגול לוקהיד U-2 שהוטס על ידי פרנסיס גארי פאוורס. כאשר הכריז ארבעה ימים מאוחר יותר שליט ברית המועצות, ניקיטה חרושצ'וב על התקרית והאשים את ארצות הברית בריגול, טען ממשל אייזנהאור בהתחלה שהמטוס חדר אל המרחב האוויר הסובייטי בטעות.
בהמלצת נציגי מחלקת המדינה ומחלקת ההגנה, כולל גייטס עצמו, הודה מאוחר יותר הנשיא אייזנהאור שמטוס ה-U-2 היה במשימת איסוף מודיעין (למעשה באחריות ה-CIA) ולקח על עצמו את האחריות לטיסה. באמצע מאי התלווה גייטס לנשיא בנסיעתו לפריז לוועידת פיסגה שתוכננה עוד לפני התקרית. שם דרש חרושצ'וב את הפסקתן של כל הטיסות האמריקאיות בשמי ברית המועצות וכן שתובע התנצלות על הפרשה ושהאחראים עליה ייענשו.
אייזנהאור הודיע שהטיסות לא יחודשו, אך דחה את שאר הדרישות ובעקבות זאת סירב חרושצ'וב להמשיך את דיוני הפסגה. גייטס העלה מאוחר יותר את ההשערה שהמנהיג הרוסי עשה שימוש במשבר ה-U-2 כדי לבטל את הפסגה שהוא צפה מראש שלא תניב תוצאות רצויות מבחינתה של ברית המועצות.
ערב הפסגה הורה גייטס לכל צוותי מערכות התקשורת הצבאיים של ארצות הברית ברחבי העולם להיות בכוננות עליונה, החלטה שספגה ביקורת על ידי אישים מסוימים כהחלטה פרובוקטיבית. כשהוא מגן על החלטתו בעקשנות, הסביר מאוחר יותר גייטס שהוא החליט, בהסכמת הנשיא אייזנהאור ומזכיר המדינה כריסטיאן הרטר, להכריז על כוננות כאשר הוא היה מודע לעמדת התוקפנית שחרושצ'וב התכוון לנקוט במהלך הוועידה. "בנסיבות הקיימות", אמר גייטס, "נראה לי שהצעד הזהיר ביותר שהוא היה אמור לעשות, היה להגביר את המודעות אצל מפקדי הכוחות שלנו. יותר מכך, בשל העובדה שכל האישים והמפקדים שהיו מעורבים בתהליכי קבלת ההחלטות, כולל הנשיא, מזכיר המדינה ואנוכי, היו מעבר לים, היה חשוב לבדוק את מוכנותם של מערכות התקשורת הצבאיות".