בניגוד לחיל הים, מטרת המטוס המרכזית הייתה התקפה-הפצצה, ולא הגנה אווירית.
מקנמארה איחד את שמות המטוסים בחיל האוויר ובחיל הים ב-18 בספטמבר 1962 כך שהגרסה של חיל הים תכונה F-4B, וגרסתו של חיל האוויר תכונה F-4C.
טיסת הבכורה של מטוס ה-F-4C, בה עבר את מהירות 2 מאך, התקיימה ב-27 במאי 1963.
בינתיים רכשו המרינס והצי מטוסי F-4J מתקדמים ומשופרים, כאשר מטוסי ה-F-4B הישנים משודרגים לדגמי F-4N ואחר כך ל-F-4S.
חיל האוויר לא קפא על שמריו ושדרג את מטוסיו ל-F-4D ואחר כך, ב-1965, לדגמי E שהיו הראשונים שכללו תותח M61 וולקן מובנה בגוף המטוס. מטוסי F-4E היו אלה שנמכרו לחיל האוויר הישראלי. כ-116 מטוסי F-4E הותאמו למשימות דיכוי הגנה אווירית (תחת הכינוי ויילד ויזל), וצוינו כ-F-4G. נבנו גם גרסאות ביון, RF-4B למרינס ו-RF-4E לייצוא לצבאות זרים.
ייצור הפנטום בארצות הברית הופסק ב-1979, לאחר שנבנו 5,195 יחידות (מתוכם 2,874 לחיל האוויר והשאר לחיל הים ולמדינות זרות), ומטוס הפנטום האחרון יוצר ב-1981.
שירות קרבי.
ב-1965 מטוסי הפנטום הראשונים נשלחו לווייטנאם. לגרסאות המוקדמות לא היה תותח והם היו תלויים בביצועי הטילים AIM-7 ספארו ו-AIM-9 סיידווינדר שהיו אז בעלי אמינות נמוכה. כתוצאה מכך, מטוסי פנטום היו חסרי ישע בקרבות אוויר אחרי שבזבזו את הטילים שלהם. הווייטנאמים והסובייטים ניצלו זאת, ומטוסי המיג שלהם (בעיקר ה-מיג-19 וה-מיג-21) גרמו אבדות קשות לפאנטומים על ידי מארבים שבוצעו אחרי שהפאנטומים חזרו מגיחות הפצצה. בעקבות ההפלות האלה, החליט חיל האוויר האמריקני להתקין את תותח ה-M61 וולקן 20 מ"מ בחרטומו של הפנטום, מתחת לכיפת המכ"ם. כך נולד ה-F-4E. בשל שיפור זה יכול היה הפנטום להתמודד מול המיגים גם ללא טילי אוויר אוויר, מה שתרם לשרידותו ולהצטיינותו כמטוס הקרב המרכזי של חילות האוויר האמריקאיים.
מטוס הפנטום האחרון בשירות חיל האוויר האמריקני פרש משירות ב-2004. הפנטומים האחרונים של הנחתים פרשו ב-1992 והוחלפו במטוסי תקיפה F/A-18.
שירות מחוץ לארצות הברית.
ישראל.
במבצע יהלום (1966), השיגה ישראל מטוס מיג-21, שהושאל מאוחר יותר לארצות הברית. על פי ראש "המוסד", להעברת המטוס לארצות הברית היה חלק בביטול האמברגו שהיה על ישראל מעת הקמתה, ולאספקת מטוסי פנטום אליה.
ב-5 בספטמבר 1969 הגיעה לישראל רביעיית הפנטומים הראשונה. היו אלה מטוסים מדגם F-4E שהיוו פריצת דרך בחיל האוויר הישראלי: הוא היה מהיר יותר מהמיראז' 3, נשא כמעט פי 6 יותר חימוש, צויד במערכות מכ"ם מתקדמות ביותר, היו לו מגוון טילי אוויר–אוויר נרחב וטווח הטיסה שלו היה כמעט כפול מזה של המיראז'. השם שניתן למטוס בחיל האוויר הישראלי הוא "קורנס" והטייסת הראשונה שהוקמה הייתה טייסת 201, בפיקודו של שמואל חץ.
כחודש לאחר מכן יצאו מטוסי הפנטום הישראליים לתקיפה הראשונה שלהם - סוללת SA-2 ליד פורט סעיד, כאשר אחד הטייסים היה חץ. במלחמת ההתשה נשלחה שמיניית פנטומים למשימת התקיפה הארוכה ביותר שידע עד אז חיל-האוויר הישראלי, לראס-בנאס במצרים, סמוך לגבול סודאן. ב-18 ביולי 1970, באחד מניסיונות התקיפה של סוללות הנ"מ שנעשה תוך שימוש בפודי לוחמה אלקטרונית ובמבנה תקיפה מיוחד, הופל מטוסם של מפקד הטייסת, שמואל חץ שנהרג, ומנחם עיני שנפל בשבי.
בשנת 1972, כאשר נחטף מטוס בואינג 707 של חברת סבנה ללוד, הוזנקו מטוסי פנטום ללוות את המטוס החטוף לנחיתה בישראל, המטוס שוחרר על ידי כוחות צה"ל בפעולה נועזת.
במלחמת יום הכיפורים לקחו מטוסי הפנטום מקום חשוב בהתקפות. משימותיהם העיקריות היו משימות אוויר–קרקע, כגון הפצצות שדות תעופה, סוללות טילים, כוחות מצריים וגשרים מעל תעלת סואץ, אך היו גם תקיפות אוויר–אוויר והפלות מטוסים.
בקרב האוויר הראשון במלחמת יום הכיפורים, הצליחו זוג מטוסי פנטום להפיל שבעה מטוסי מיג-17 שתקפו את בסיסי צה"ל בדרום סיני.
ביום הרביעי של מלחמת יום הכיפורים הפציצו מטוסי פנטום ישראלים את בניין המטכ"ל הסורי בדמשק.
במהלך מלחמת ההתשה ומלחמת יום הכיפורים הופלו מטוסי קורנס רבים על ידי סוללות נ"מ מצריות, וחיל-האוויר התקשה להתמודד מולן.
בתחילת מבצע שלום הגליל, הופעלו טייסות הקורנס לתקיפת סוללות הנ"מ הסוריות בלבנון (מבצע ערצב-19), ונחלו הצלחה מלאה במשימת ציד טילים. המטוסים שהוכחה הצלחתם בהשמדת סוללה זכו באות תקיפה ייחודי. במהלך סיוע לכוחות הקרקע תקפו מטוסי קורנס כוחות ישראליים עקב טעות בזיהוי, והרגו 24 חיילים ישראליים. ב-1986 התרסק בלבנון מטוס פנטום עקב תמרון השלכת חימוש שגוי שגרם לפיצוץ התחמושת בקרבת המטוס, והנווט שלו, רון ארד, נפל בשבי.
במשך השנים משימותיהם העיקריות של מטוסי הפנטום היו תקיפת סוללות נ"מ ושאר מטרות קרקעיות, אך הם שימשו גם ליירוט מטוסי אויב בעת הצורך. במהלך מלחמת ההתשה, מלחמת יום הכיפורים ומבצע שלום הגליל השתתף הפנטום, ונרשמו לזכותו כ-116 הפלות. ההפלה האחרונה בפנטום הושגה במבצע שלום הגליל, ב-9 ביוני 1982.
ביולי 1987 החלו טיסות ניסוי של אב טיפוס ראשון של "קורנס 2000" - שדרוג להארכת חיי הפנטום, שעיקרו החלפת מערכות האוויוניקה, החימוש והמכ"ם. השדרוג כלל מכ"ם מפתח סינתטי מדגם APG-76 שפותח עבור חיל האוויר על ידי חברת נורדן מערכות, מערכת תצוגה עילית רחבת-זווית, והנדסת אנוש משופרת באמצעות צגים להצגת נתונים בתא הטייס ובתא הנווט. ב-9 באפריל 1989 נמסר קורנס 2000 סדרתי ראשון (מס' 668) על ידי התעשייה האווירית לחיל האוויר, ונקלט בטייסת 201. בזכות השיפורים שהוכנסו בו עבר הפנטום בשירות חיל האוויר הישראלי את רוב מקביליו ברחבי העולם, בשנות תפעול ובביצועים.
בשנת 2004 הוצאו מטוסי הפנטום האחרונים משירות בחיל האוויר, ואוחסנו בבסיס עובדה בדרום.
בשנת 2008 הובא אחד ממטוסי הפנטום לבאר שבע והוצב בכיכר אילן רמון ליד בית הספר הטכני של חיל האוויר.
בסך הכול נקנו על ידי חיל האוויר במהלך השנים כ-216 מטוסי פנטום (204 מטוסי קרב ו-12 מטוסי צילום), שהוצבו בטייסות הבאות:
אוסטרליה.
במרץ 1963 הציעה חברת מקדונל דאגלס לחיל האוויר המלכותי האוסטרלי לספק עבורה גרסה משופרת של F-4C שנקראה 98DX, עם מנוע SNECMA Atar 9, בדומה למטוס המיראז' 3 שכבר היה בשימוש שם. עם זאת, המנוע הצרפתי היה נחות לעומת מנוע הג'נרל אלקטריק J79, ולכן, הזמין חיל האוויר האוסטרלי את מטוסי ה-F-111C, להם טווח טיסה גדול יותר.
הפיתוח של ה-F-111 נתקל במספר מכשולים, והצפי היה שחיל האוויר האוסטרלי לא יקבל אותו לפני 1974, מה שהשאיר אותו ללא מטוס קרב מתאים, והצורך בהחלפת מטוס ה-B.20 של קנברה גדל. הפתרון המיידי היה שכירת מטוסי F-4E במסגרת תוכנית "פיס ריף". ההסכם נחתם ב-22 ביוני 1970, ו-24 מטוסי הפנטום הראשונים סופקו לאוסטרליה בספטמבר, חודשיים מאוחר יותר.
המטוסים הופעלו על ידי טייסות 1 ו-6, שממוקמות בבסיס אמברליי של חיל האוויר האוסטרלי.
צוותי האוויר האוסטרלים שיבחו את הבחירה בשכירת מטוס הפנטום, עד כדי כך שהזמנת מטוסי ה-F-111 הייתה בסיכון.
בדצמבר 1971, חודש פרויקט ה-F-111. האמריקאים הציעו למכור לאוסטרלים 48 מטוסים, בהם הפנטום מדגם RF-4E והמטוסים המושכרים, בתנאי שאוסטרליה תבטל את הזמנת ה-F-111C. כיוון שרכישת מטוסי הפנטום, שהוא מטוס דו מושבי, דרשה צוות רב יותר, וכן רכישת מספר רב של מטוסי תדלוק, שכן טווח הטיסה שלו נמוך יותר, העסקה הפכה ליקרה מדי עבור אוסטרליה. ששת מטוסי הפנטום הראשונים הוחזרו לארצות הברית באוקטובר 1972, וחמישה נוספים בנובמבר של אותה השנה. ששת מטוסי ה-F-111C הראשונים הגיעו לאוסטרליה ביוני 1973, ושאר מטוסי הפנטום הוחזרו לארצות הברית.
במהלך שירותו באוסטרליה, אבד אחד ממטוסי הפנטום השכורים בשעת אימון הפצצת לילה, ב-16 ביוני 1971.
מצרים.
במלחמותיו נגד ישראל נתקל חיל האוויר המצרי מספר פעמים במטוסי הפנטום, בעיקר בעת מלחמת ההתשה ומלחמת יום הכיפורים. ההיתקלויות האלו גרמו למצרים להכיר את יכולותיו המבצעיות של הפנטום.
לאחר הסכמי קמפ דייוויד וחתימת הסכם השלום בין ישראל למצרים, סיימה מצרים את התלות הצבאית שלה בברית המועצות, ואיבדה את התמיכה הכלכלית בה מצד שאר מדינות ערב. בנוסף, ביטלה ערב הסעודית את תוכניותיה לשלוח למצרים 50 מטוסי נורת'רופ F-5.
מחלקת המדינה של ארצות הברית הציעה לתת למצרים מטוסי קרב מתקדמים בתמורה למטוסים תוצרת ברית המועצות כמו מיג-21 ומיג-23.
ארצות הברית סיפקה למצרים 35 מטוסי F-4E, יחד עם מספר טילי AIM-7 ספארו, AIM-9 סיידוויינדר, ו-AGM-65 מאבריק, במחיר של 594 מיליון דולר. המטוסים שירתו בטייסות 76 ו-78 של חטיבה 222.
במהלך שירותם התרסקו שלושה מטוסי פנטום, אך הוחלפו בשלושה אחרים, ועד היום נמצאים הפנטומים בשימוש בשתי טייסות.
גרמניה.
תחילה הזמין הלופטוואפה את דגמי הביון RF-4E והחל לקלוט 88 מטוסים מינואר 1971.
בשנת 1982, דגמי הביון RF-4E, שהיו לא-חמושים תחילה, שודרגו לטובת הוספת יכולת משנית של תקיפת קרקע. המטוסים הוצאו משירות ב-1994.
ב-1973, במסגרת תוכנית "פיס ריין", רכש הלופטוואפה את הגרסה הקלה והפשוטה של הפנטום, F-4F שעברו השבחה באמצע שנות השמונים.
טורקיה.
חיל האוויר הטורקי קיבל 40 מטוסי F-4E ב-1974, ו-32 מטוסי F-4E נוספים ו-8 מטוסי RF-4E בשנים 1977–1978, במסגרת תוכנית "Peace Diamond III"