האשמותיו של מקארתי הביאו לו פופולריות רבה בתחילה, אך כשנמשכו האשמותיו גם לאחר חילופי הממשל בארצות הברית ועליית הנשיא דווייט אייזנהאואר, השתנו הדברים ומקארתי הודח מתת וועדת הסנאט לחקירות, ואף זכה לגינוי רשמי בסנאט האמריקאי. בשנות התשעים, עם חשיפת "מסמכי וינונה" שתיעדו פעילות סובייטית בארצות הברית, הסתבר כי רק חלק זעום מאלה שבשמם נקב מקארתי אכן היוו סיכון ביטחוני. הדעה המקובלת בקרב היסטוריונים היא כי פעילותו של מקארתי הייתה חסרת תועלת מבחינה זו, ומצד שני היוותה איום על הדמוקרטיה.
ב-1950 נטבע המושג מקארתיזם על שמו של מקארתי, שבא לתאר את פעילותו של מקארתי באותה התקופה, אך עם הזמן, במיוחד לאחר סיום המלחמה הקרה - הוא משמש לתיאור רדיפה פוליטית עקב חוסר נאמנות למדיניות המשטר.
ראשית חייו.
מקארתי נולד בעיירה הכפרית גרנד שוט בוויסקונסין. חרף מצבו הכלכלי, התאמץ והשיג תואר במשפטים מאוניברסיטת מרקט במילווקי, והתקבל ללשכת עורכי הדין ב-1935. ב-1939 מונה לשופט.
ב-1942, קצת אחרי כניסת ארצות הברית למלחמת העולם השנייה, התגייס מקארתי לחיל הנחתים, למרות שמשרתו השיפוטית יכלה לפוטרו משירות צבאי. הוא שירת שירות קרבי בדרגת סגן, כתצפיתן ארטילרי מוטס וכ"תותחן זנב", במטוס שיצא למשימות הפצצה בדרום האוקיינוס השקט; זה הביא לו את הכינוי "ג'ו תותחן אחורי" ("Tailgunner Joe").
על שירותו עוטר בצלב התעופה המצוינת וכמה פעמים במדליית האוויר.
עוד בשירותו הצבאי ב-1944, ניסה להשיג את מועמדות המפלגה הרפובליקנית לסנאט האמריקאי מטעם מדינת ויסקונסין, אך כשל. אחרי שחרורו מן הצבא ב-1945 שב לכהן כשופט, ופתח בקמפיין לקראת הבחירות ב-1946, בהן זכה במועמדות מפלגתו מול הסנאטור המכהן, והביס בקלות את יריבו הדמוקרטי.
כהונתו כסנאטור.
בתקופת כהונתו הראשונה לא בלט מקארתי. הוא הצביע באופן שמרני, אך לא תמיד על פי עמדת המפלגה. הוא נהג לנאום הרבה, במגוון רחב של נושאים. תחילה התרכז בבעיות דיור וקיצוב הסוכר, ואז ביצע תפנית חשובה בנאומו ב-9 בפברואר 1950 בפני מועדון נשים בווילינג במערב וירג'יניה. הנוסח המדויק של נאום מקארתי לא נשמר, אך ידוע שנופף בפיסת נייר שהכילה רשימת קומוניסטים ידועים כביכול, שעבדו אז במחלקת המדינה האמריקנית. על מספר האנשים שהיו רשומים על פיסת הנייר ישנן גרסאות שונות, נטען שנע בין 38 ל-205 אנשים. מקארתי הסביר אחר כך ש-38 מהם היו קומוניסטים "רשומים" במפלגה, ו-205 הם כאלה ש"אין להעסיקם במחלקת המדינה" (משרד החוץ) מסיבות שונות. לימים שימש שינוי גרסאות זה ככלי להאשמת הסנטור עצמו בעדות שקר. אמנם היה מסמך של מחלקת המדינה שנקב בשמות אנשים שהיו לגביהם ספיקות, אך אלו נגעו בעיקר לנושאים שונים כהתמכרות לאלכוהול וביצועים לא מספקים, ולא רק חשד באהדה לקומוניזם.
יש לזכור ברקע הדברים את החששות באמריקה מפעילות ברית המועצות, אחרי השתלטותה על מזרח אירופה ("הגוש המזרחי"), ומשפטו של אלג'ר היס, עובד מחלקת המדינה שנחשד בהיותו מרגל קומוניסטי. היס לא הואשם בריגול אלא במתן עדות שקר בכך שהכחיש את קשריו עם קומוניסטים בעבר. המשפט נוהל בצורה ציבורית, בין היתר על ידי ועדת בית הנבחרים לפעילות אנטי אמריקאית, בראשותה עמד ריצ'רד ניקסון, ותרם מאוד לבהלת "הקומוניסטים במחלקת המדינה". על רקע זה בא נאומו של מקארתי בפני נשות וירג'יניה כהצלחה מחשמלת. מקארתי עצמו נדהם מכמות הכיסוי התקשורתי שקיבל, ובמהלך הימים הבאים שינה את גרסת הנאום ואת מספר הקומוניסטים שבהם חשד עד שבנאום שנשא בסנאט כשלושה שבועות לאחר מכן, נקב במספר 81 קומוניסטים במחלקת המדינה. הנאום היה נאום מרתוני שדן בכל מקרה בפירוט, אך העדויות במקרים רבים היו קלושות או לא קיימות. גם התוצאה של נאום זה הייתה משמעותית, והסנאט מינה ועדה לבדוק את ההאשמות. בסופו של דבר נמצאו ההאשמות כחסרות ביסוס, אך הדבר לא הפריע למקארתי, ששינה את ההאשמות במקצת והמשיך להפיצן בנאומיו בסנאט ובתקשורת.
מ-1950 עד 1953 המשיך מקארתי להאשים את הממשלה כי היא אינה מטפלת בבעיית הקומוניזם בשורותיה. האשמות אלו נתנו לו כיסוי תקשורתי נרחב, תומכים רבים, ומקור להכנסה ניכרת. ענייניו הכספיים נחקרו על ידי הסנאט, ובדו"ח הוועדה נמצאו אי סדירויות בניהול כספיו, אך לא נמצא מקום לנקיטת פעולה משפטית. הוא נישא לג'ין קר (Kerr), תחקירנית במשרדו, ב-29 בספטמבר 1953.
אחרי ניצחון הרפובליקנים בבחירות לנשיאות ולסנאט בשנת 1952, שהושג במידה רבה הודות לפופולריות של מקארתי, כשלעומת זאת, ניתן להניח כי מועמדים דמוקרטיים רבים נכשלו עקב האשמתם על ידי מקארתי באהדה לקומוניזם, קיבל מקארתי את המינוי הנחשק לנשיאות תת-הוועדה של הסנאט לחקירות. חמקמקותו וחוסר אמינותו גרמו לכך שדיוני הוועדה מעולם לא נלקחו ברצינות על ידי הנשיא דווייט אייזנהאואר. הוועדה שלו, שלא כמו ועדת בית הנבחרים לפעילות אנטי אמריקאית או תת-הוועדה לחקירות פנימיות של הסנאט, התמקדה בחקירת אנשי ממשל. בתחילה חקרה את אנשי קול אמריקה, ולאחר מכן הוציאה מספריית אגף האינפורמציה של מחלקת המדינה ספרות "פרו קומוניסטית". המשך ההאשמות לגבי קומוניסטים בממשל, מבלי להתייחס לעובדה שהממשל התחלף מדמוקרטי לרפובליקני, הכעיס את הנשיא אייזנהאואר. הנשיא לא רצה להתנגח עם מקארתי באופן פומבי, בשל הפופולריות שלו, אך החל לחשוב על דרכים להפחית את השפעתו.
נפילתו של מקארתי.
בשנת 1953 החל מקארתי בחקירת אנשי צבא. הוא ניסה לחשוף חוליה קומוניסטית בחיל הקשר האמריקני, אך נכשל. לאחר מכן כיוון את תשומת לבו אל רופא שיניים צבאי בשם אירווין פירס (Peress), אותו האשים בגיוס אנשי צבא לטובת הקומוניזם. פירס הודח על ידי קצין הרפואה הראשי של צבא ארצות הברית, אך מקארתי טען כי הוא לא הודח, אלא הועלה לדרגת רב-סרן. האשמה אחרונה זו הביאה לגל של תקשורת עוינת כנגד מקארתי, אשר האשים את קצין הרפואה כי הוא "אינו ראוי לשאת מדי צבא". בשנת 1954 האשים הצבא את מקארתי ואת עוזרו רוי כהן כי הם לחצו על הצבא לתת טיפול מועדף לידיד שלהם בשם ג'י דייוויד שיין (Schine). מקארתי טען כי האשמה זו נעשתה בכוונה להונות, כתגובה לכך שחקר את הקצין ראלף וייז זוויקר שנה קודם לכן, בעת שניסה לחשוף מרגלים סובייטים בשירות הצבא.
המשימה לפסוק בין ההאשמות הללו ניתנה לתת-הוועדה הקבועה לחקירות ביטחון לאומי של הסנאט של ארצות הברית , שבדרך כלל עמד בראשה מקארתי עצמו. לראש הוועדה מונה הסנאטור הרפובליקני קארל מונדט וב-22 באפריל 1954 החלה החקירה הידועה בשם הליכי השימוע הצבא-מקארתי . הליכי השימוע נמשכו 36 ימים ושודרו בשידור חי בטלוויזיה לכ-20 מיליון צופים. לאחר שמיעת 32 עדים, קבעה הוועדה שמקארתי עצמו לא הפעיל שום השפעה לא ראויה לטובת שיין, אולם כהן "היה עסוק במאמצים עיקשים או אגרסיביים ביותר". לחשיפה התקשורתית הרחבה הייתה השפעה שלילית על הפופולריות של מקארתי. רבים מהצופים ראו אותו כמתנהג בבריונות, בקלות ראש, ובאי-יושר. מספר גדל של רפובליקנים ושמרנים החלו לראות בו נטל למפלגה ולאנטי-קומוניזם.
האירוע הידוע ביותר בהליכי השימוע היו חילופי הדברים בין מקארתי והנציג המשפטי הראשי של הצבא, ג'וזף ולץ'. ב-9 ביוני, היום ה-30 של הליכי השימוע, ולץ' קרא לרוי כהן לספק לתובע הכללי של ארצות הברית, הרברט בראונל ג'וניור , את הרשימה של מקארתי של 130 קומוניסטים או חתרנים במפעלי הגנה "לפני השקיעה". מקארתי התערב ואמר שאם ולץ' כל כך מודאג מאנשים המסייעים למפלגה הקומוניסטית, עליו לבדוק אדם במשרד עורכי הדין שלו בבוסטון בשם פרד פישר , שהשתייך בעבר לגילדת עורכי הדין . ולץ' יצא להגנתו של פישר ותקף את מקארתי:"עד לרגע זה, סנאטור, אני חושב שלא ממש אמדתי את אכזריותך או קלות ראשך". כאשר מקארתי ניסה לחדש את התקפתו, ולץ' קטע אותו: "בוא לא נמשיך לרצוח את הבחור, סנאטור. עשית מספיק. האם אין בך תחושת הגינות, אדוני? בסופו של דבר, האם לא נותרה בך תחושת הגינות?" (?Have you left no sense of decency). כאשר מקארתי התעקש להמשיך לעסוק בנושא, ולץ' קטע אותו ודרש מיושב ראש הוועדה "לקרוא לעד הבא." בנקודה זו פרצו הצופים בישיבה במחיאות כפיים והוכרזה הפסקה בדיון.
מקארתי החליף את אנשי הוועדה בזה אחר זה, למעט עוזרו רוי כהן (עורך דין יהודי בעל ניסיון עבר כתובע פלילי שהיה בן 26 בעת כניסתו לוועדה), אותו השאיר במשך כל תקופת קיומה. כהן היה ידוע בשל רדיפתו הקנאית אחר ויליאם רמינגטון, איש משרד המסחר שהואשם בקומוניזם, ויוליוס ואתל רוזנברג (זוג מדענים יהודים אמריקנים שהואשמו בריגול, הורשעו והוצאו להורג), וכן כמה ממנהיגי המפלגה הקומוניסטית האמריקנית. יש לציין כי מסמכי וינונה, מסמכים משותפים לשירותי המודיעין האמריקניים והבריטיים שפורסמו בשנת 1995 ובהם רשימה של כ-349 אנשים שהיו בקשר עם המודיעין הסובייטי, יכולים להתפרש כמזכים את רמינגטון ורוזנברג, אך גם כראיה מרשיעה דווקא. כהן השתלט על דיוני הוועדה, עד שמקארתי עצמו נאלץ להודות ש"לפעמים לשים אדם צעיר כממונה על מבוגרים ממנו אינו דבר טוב".
התנהגותם של מקארתי וכהן גרמה לפרישתן של דמויות מכובדות מהוועדה כבובי קנדי (משפטן מכובד חבר המפלגה הדמוקרטית ולימים התובע הכללי של ארצות הברית; אחיו של מי שיהיה לימים נשיא ארצות הברית, ג'ון פיצג'רלד קנדי). לבסוף מונה רוברט מת'יוס כמנהל הוועדה. בעברו היה מת'יוס קומוניסט, אך חזר בו ונהיה אנטי קומוניסט נלהב. בעת מינויו שימש אף ככומר מתודיסטי. מת'יוס פרש לאחר תקופה קצרה, כאשר מקארתי הפנה את תשומת לבו לאנשי הדת, וכתב מסמך שנקרא "אדומים בכנסיותינו".