ג'וזף מקארתי
נפילתו של מקארתי

בשנת 1953 החל מקארתי בחקירת אנשי צבא. הוא ניסה לחשוף חוליה קומוניסטית בחיל הקשר האמריקני, אך נכשל. לאחר מכן כיוון את תשומת לבו אל רופא שיניים צבאי בשם אירווין פירס (Peress), אותו האשים בגיוס אנשי צבא לטובת הקומוניזם. פירס הודח על ידי קצין הרפואה הראשי של צבא ארצות הברית, אך מקארתי טען כי הוא לא הודח, אלא הועלה לדרגת רב-סרן. האשמה אחרונה זו הביאה לגל של תקשורת עוינת כנגד מקארתי, אשר האשים את קצין הרפואה כי הוא "אינו ראוי לשאת מדי צבא". בשנת 1954 האשים הצבא את מקארתי ואת עוזרו רוי כהן כי הם לחצו על הצבא לתת טיפול מועדף לידיד שלהם בשם ג'י דייוויד שיין (Schine). מקארתי טען כי האשמה זו נעשתה בכוונה להונות, כתגובה לכך שחקר את הקצין ראלף וייז זוויקר (אנ') שנה קודם לכן, בעת שניסה לחשוף מרגלים סובייטים בשירות הצבא.
המשימה לפסוק בין ההאשמות הללו ניתנה לתת-הוועדה הקבועה לחקירות ביטחון לאומי של הסנאט של ארצות הברית (United States Senate Homeland Security Permanent Subcommittee on Investigations), שבדרך כלל עמד בראשה מקארתי עצמו. לראש הוועדה מונה הסנאטור הרפובליקני קארל מונדט (אנ') וב-22 באפריל 1954 החלה החקירה הידועה בשם הליכי השימוע הצבא-מקארתי (Army–McCarthy hearings). הליכי השימוע נמשכו 36 ימים ושודרו בשידור חי בטלוויזיה לכ-20 מיליון צופים. לאחר שמיעת 32 עדים, קבעה הוועדה שמקארתי עצמו לא הפעיל שום השפעה לא ראויה לטובת שיין, אולם כהן "היה עסוק במאמצים עיקשים או אגרסיביים ביותר". לחשיפה התקשורתית הרחבה הייתה השפעה שלילית על הפופולריות של מקארתי. רבים מהצופים ראו אותו כמתנהג בבריונות, בקלות ראש, ובאי-יושר. מספר גדל של רפובליקנים ושמרנים החלו לראות בו נטל למפלגה ולאנטי-קומוניזם.
האירוע הידוע ביותר בהליכי השימוע היו חילופי הדברים בין מקארתי והנציג המשפטי הראשי של הצבא, ג'וזף ולץ'. ב-9 ביוני, היום ה-30 של הליכי השימוע, ולץ' קרא לרוי כהן לספק לתובע הכללי של ארצות הברית, הרברט בראונל ג'וניור (אנ'), את הרשימה של מקארתי של 130 קומוניסטים או חתרנים במפעלי הגנה "לפני השקיעה". מקארתי התערב ואמר שאם ולץ' כל כך מודאג מאנשים המסייעים למפלגה הקומוניסטית, עליו לבדוק אדם במשרד עורכי הדין שלו בבוסטון בשם פרד פישר (אנ'), שהשתייך בעבר לגילדת עורכי הדין (אנ'). ולץ' יצא להגנתו של פישר ותקף את מקארתי:"עד לרגע זה, סנאטור, אני חושב שלא ממש אמדתי את אכזריותך או קלות ראשך". כאשר מקארתי ניסה לחדש את התקפתו, ולץ' קטע אותו: "בוא לא נמשיך לרצוח את הבחור, סנאטור. עשית מספיק. האם אין בך תחושת הגינות, אדוני? בסופו של דבר, האם לא נותרה בך תחושת הגינות?" (?Have you left no sense of decency). כאשר מקארתי התעקש להמשיך לעסוק בנושא, ולץ' קטע אותו ודרש מיושב ראש הוועדה "לקרוא לעד הבא." בנקודה זו פרצו הצופים בישיבה במחיאות כפיים והוכרזה הפסקה בדיון.
מקארתי החליף את אנשי הוועדה בזה אחר זה, למעט עוזרו רוי כהן (עורך דין יהודי בעל ניסיון עבר כתובע פלילי שהיה בן 26 בעת כניסתו לוועדה), אותו השאיר במשך כל תקופת קיומה. כהן היה ידוע בשל רדיפתו הקנאית אחר ויליאם רמינגטון, איש משרד המסחר שהואשם בקומוניזם, ויוליוס ואתל רוזנברג (זוג מדענים יהודים אמריקנים שהואשמו בריגול, הורשעו והוצאו להורג), וכן כמה ממנהיגי המפלגה הקומוניסטית האמריקנית.כהן השתלט על דיוני הוועדה, עד שמקארתי עצמו נאלץ להודות ש"לפעמים לשים אדם צעיר כממונה על מבוגרים ממנו אינו דבר טוב".
התנהגותם של מקארתי וכהן גרמה לפרישתן של דמויות מכובדות מהוועדה כבובי קנדי (משפטן מכובד חבר המפלגה הדמוקרטית ולימים התובע הכללי של ארצות הברית; אחיו של מי שיהיה לימים נשיא ארצות הברית, ג'ון פיצג'רלד קנדי). לבסוף מונה רוברט מת'יוס כמנהל הוועדה. בעברו היה מת'יוס קומוניסט, אך חזר בו ונהיה אנטי קומוניסט נלהב. בעת מינויו שימש אף ככומר מתודיסטי. מת'יוס פרש לאחר תקופה קצרה, כאשר מקארתי הפנה את תשומת לבו לאנשי הדת, וכתב מסמך שנקרא "אדומים בכנסיותינו".
התנהגות זו הובילה את הסנאט להצביע ב-2 בדצמבר 1954 על גינויו של מקארתי, ברוב של 65 מול 22, כמי שהתנהג "באופן שיש בו כדי להביא לסנאט אי כבוד ומוניטין גרוע".
למרות שלחקירת הצבא חלק גדול בנפילתו של מקארתי, מספר אישים התנגדו לו עוד לפני שנת 1953. דוגמה אחת היא הסנאטורית הרפובליקנית מרגרט צ'ייס סמית' ממדינת מיין (והאישה היחידה בסנאט באותה העת), שגינתה את מקארתי בנאום שנשאה בשנת 1951, מבלי לנקוב בשמו (כמתבקש מכללי האתיקה בסנאט).
היחס שקיבל מקארתי מחברי הסנאט האחרים הביא אותו לדיכאון ולכעס שהחריף את חיבתו לשתיית אלכוהול. חיבה זו התפתחה להתמכרות לאלכוהול אשר לצד בריאותו הרופפת ממילא, הביאה למותו משחמת הכבד ב-2 במאי 1957.