בין השנים 1954–1963 הציגה הקבוצה כדורגל איכותי וסיגלה לעצמה סגנון משחק הרפתקני והתקפי המתבסס על טכניקה אישית גבוהה ומסירות קצרות בסגנון הברזילאי. ב-1962 זכתה הקבוצה בתואר ראשון אי פעם: היא ניצחה את מכבי תל אביב 5:2 במשחק גמר גביע המדינה החוזר, שנערך באצטדיון גבעת רם בירושלים לעיני 10,000 צופים (לאחר 0:0 במשחק הראשון). שנה לאחר מכן, הצליחה הקבוצה להעפיל שוב לגמר הגביע, אך הפסידה בתוצאה 0:1 ליריבה העירונית, הפועל חיפה. באותן שנים כוכבה הגדול ביותר של מכבי חיפה היה אהרון אמר ששיחק לצד שחקנים איכותיים דוגמת: אברהם מנצ'ל, אשר עלמני, ג'וני הרדי, זכריה בן צבי ושלום ואנו. אף על פי שחקניה האיכותיים וסגנון המשחק האטרקטיבי, לא הצליח המועדון לזכות בתואר האליפות והישגו הגדול ביותר היה המקום השלישי בטבלה בשנת 1958. אמר, שהיה כוכב בקנה מידה ארצי, זכה להערצה גדולה הן בעיר חיפה והן במדינת ישראל.
בשנת 1965 נשרה מכבי חיפה לראשונה בתולדותיה לליגה א (אז הליגה השנייה). גורלה לרדת ליגה נקבע במחזור הלפני האחרון לאחר הפסד חוץ להפועל ירושלים 2-3 בקרב ראש בראש נגד הירידה וזאת לאחר שמכבי חיפה הובילה 0–2. שנה מאוחר יותר חזרה מכבי חיפה לליגה הראשונה.
בשנת 1970, שלחה העיר חיפה ארבעה נציגים למונדיאל במקסיקו, שניים מהם שחקניה של מכבי חיפה: הבלם ישעיהו שווגר, והקשר ה"כׁלבוֹ" דני שמילו רום. בשנות ה-70 בלטו בקבוצה גם השחקנים: מרדכי לובצקי, שלמה בנאדו, אהרון גרשגורן, יחזקאל גרשוני, נתן הירש וקרול רוטנר.
בשנת 1971 העפילה הקבוצה לגמר הגביע בפעם הרביעית, אך הפסידה בתוצאה 1:2 להכח רמת גן.
בשנת 1974 נשרה מכבי חיפה בפעם השנייה בתולדותיה לליגה א. מכבי חיפה סיימה את העונה במקום האחרון שבאותה עונה נקבע ששתי האחרונות ייפגשו למשחקי מבחן את שתי הראשונות בכל מחוז בליגה א לטורניר בשיטת ליגה של סיבוב אחד שבסיומו שתי הראשונות ישחקו בעונה הבאה בליגה הראשונה. מכבי חיפה סיימה את הטורניר במקום הרביעי בלבד עם שני ניצחונות ושלושה הפסדים ובכך ירדה שוב לליגה השנייה. שנה לאחר מכן חזרה מכבי חיפה לליגה הראשונה.
שנה לאחר שעלתה חזרה לליגה הראשונה הייתה אמורה מכבי חיפה לרדת פעם נוספת לליגה השנייה לאחר שהקבוצה נוצחה במחזור הסיום בדרבי בידי הפועל חיפה אך הקבוצה ערערה על חוקיות משחקה מול שמשון ת"א בה היא הפסידה ונקבע לה משחק חוזר לאחר סיום העונה בה ניצחה מכבי חיפה ובכך נשארה מכבי חיפה בליגה הראשונה. שנה לאחר מכן נשרה מכבי חיפה בפעם השלישית בתולדותיה לליגה השנייה לאחר שסיימה את העונה במקום הלפני האחרון. ירידתה נקבעה במחזור הלפני האחרון לאחר הפסד חוץ להפועל יהוד.
בניגוד לשתי הירידות הקודמות לליגה השנייה לא הצליחה מכבי חיפה לשוב לליגה הראשונה בעונה הראשונה שלאחר הירידה לליגה השנייה ובשנת 1980 אף סיימה מכבי חיפה במקום הנמוך בתולדותיה - מקום 7 בליגה השנייה. שנה מאוחר יותר חזרה מכבי חיפה לליגה הראשונה אחרי 4 שנות היעדרות ולאחר שסיימה במקום השלישי.
בשנת 1977 הצטרף לקבוצה כוכב הפועל חיפה ונבחרת ישראל, יוחנן וולך. לאחר שוולך פרש ממשחק פעיל ב-1979, קיבל לידיו בהתנדבות מלאה את ניהול המועדון והיה גורם מרכזי ומכריע בעליית הקבוצה לליגה הראשונה וזכייתה בתארים רבים.
מכבי חיפה התבססה בעיקר על מחלקת הנוער, שהייתה אלופת המדינה לנוער בשנים 1975 ו-1979, והעלתה את רוב הקבוצה לבוגרים תוך מגמה ברורה להתברג בצמרת עם שחקני בית צעירים. הראשונים להופיע בבוגרים כבר בשנות ה-70 היו יוסי קרמר, אברהם אבוקרט ומשה סלקטר.
התבססות ותארים ראשונים: החל מ-1983.
בשנות השמונים התבססה הקבוצה בליגה הראשונה, אך עד לשנת 1983 היא נחשבה לקבוצת אמצע-טבלה ומטה, ונעה בין הליגה הראשונה לשנייה. המהפך חל בשנת 1983 עם הגעתו של המאמן שלמה שרף לקבוצה.
בשנים 1984 ו-1985 זכתה הקבוצה בשתי האליפויות הראשונות שלה תחת הדרכתו של שלמה שרף. שלמה שרף, שדגל בצורת משחק התקפית, ונהג לשחק בהרכב התקפי עם שלושה חלוצים, היה בין המרכיבים העיקריים לזכייתה של מכבי חיפה באליפות ישראל – לראשונה בתולדותיה. הרכבה של הקבוצה שכמעט ולא השתנה לאורך העונה כלל את השחקנים הבאים: השוערים אבי רן וצדוק אברהמי, הבלמים יחזקל שירי, רפי אוסמו וירון פרסלני, מגנה הימני איתן אהרוני, הקשרים ברוך ממן, שלום לוי ואברהם אבוקרט, והחלוצים, משה סלקטר, צדוק מלכה ורוני רוזנטל, שחקנים מתוצרת מחלקת הנוער של המועדון. כמו כן, צורף החלוץ זאהי ארמלי ממכבי שפרעם והמגן השמאלי ציון מרילי מהפועל ירושלים.
האליפות הראשונה הגיעה בהפתעה, שכן בית"ר ירושלים הובילה את הטבלה משך רוב העונה ומכבי חיפה הייתה בפיגור ניכר מאחוריה (הפער בין שתי הקבוצות עמד על 13 נקודות בתום סיבוב המשחקים הראשון). ברם, בישורת האחרונה, נקלעה בית"ר לרצף הפסדים ומכבי חיפה הצליחה לסגור את הפער. המהפך בצמרת הטבלה אירע במחזור ה-29 והלפני אחרון, כאשר בית"ר ירושלים שיחקה במגרשה הביתי מול הפועל תל אביב. מכבי חיפה שדלקה אחר ירושלים יצאה למשחק חוץ קשה מול הפועל יהוד, וניצחה 1:0 משער נגיחה של משה סלקטר. במקביל ובאופן מפתיע, ניצחה הפועל תל אביב 3:1 את בית"ר ירושלים, וההכרעה עברה למחזור האחרון. משחק האליפות, שנערך לעיניי 20 אלף צופים באצטדיון קריית אליעזר, שוחק נגד מכבי רמת עמידר שנאבקה נגד הירידה. המשחק הסתיים בניצחון 1:0 משער נגיחה נוסף של סלקטר.
שנה לאחר מכן, ב-1985, זכתה הקבוצה באליפות השנייה בצורה משכנעת כשהיא מביסה את הפועל כפר סבא 5:1 במשחק האליפות, שנערך באצטדיון קריית חיים. באותה השנה העפילה הקבוצה לגמר גביע המדינה בפעם החמישית, אך הפסידה 0:1 לבית"ר ירושלים. באותה שנה זכתה הקבוצה בראשות הבית באינטרטוטו. בשנת 1986 לא זכתה הקבוצה באליפות, לאחר שבמשחק הליגה האחרון נגד הפועל תל אביב הפסידה 0:1 משער שנוי במחלוקת של גילי לנדאו בדקה ה-86. מכבי חיפה, שהייתה זקוקה לתיקו על מנת לזכות באליפות, הפסידה במשחק ואת האליפות.
בינואר 1987 נשרף מועדון מכבי חיפה, קירותיו עלו באש והמועדון נפגע בצורה קשה. לדברי המשטרה השריפה נבעה מטעות של אנשי אחזקה שעבדו במקום. בעונה זו העפילה מכבי חיפה לגמר הגביע בפעם השישית, אך גם הפעם לא הצליחה לזכות בתואר, לאחר שסיימה בתיקו 3 עם מכבי תל אביב והפסידה 3:4 בדו-קרב בעיטות עונשין. ב-11 ביולי 1987 נהרג שוערה של מכבי חיפה, אבי רן, בתאונה ימית בכנרת. אובדנו היה מכה קשה לקבוצה, שכן השוער הצעיר נחשב להבטחה גדולה ולגדול שועריה של הקבוצה בכל הזמנים.
בשנת 1988 הביסה מכבי חיפה את מכבי תל אביב בתוצאה 10:0, כשזאהי ארמלי כובש ארבעה שערים, ובשנת 1989 זכתה באליפות נוספת תחת הדרכתו של אמציה לבקוביץ'. באותה שנה העפילה הקבוצה לגמר הגביע בפעם השביעית, שם פגשה את בית"ר ירושלים בשחזור הגמר מ-1985. משחק זה זכור כאחד ממשחקי הגמר המרתקים בתולדות גמר הגביע. בתום הזמן החוקי התוצאה הייתה 2:2, בהארכה נכבשו עוד שני שערים, אחד לכל קבוצה, ולבסוף בית"ר ניצחה 4:3 בדו-קרב בעיטות עונשין.
בשנות התשעים החל המועדון להתמקצע ולהתאים עצמו לסטנדרטים אירופאים. בנוסף, הקבוצה התחזקה בשחקנים זרים, לאחר ששונה התקנון כך ששיתופם הותר. קריסת מסך הברזל באותה תקופה איפשרה החתמת כמה כדורגלנים ממזרח אירופה אשר הפכו למובילים בהמשך. ב-1991 זכתה מכבי חיפה באליפות רביעית. באותה שנה העפילה הקבוצה לגמר הגביע בפעם השמינית, שם פגשה את הפועל פתח תקווה. מכבי חיפה פיגרה 0:1 אך הצליחה למחוק את הפיגור וניצחה 3:1, ובכך זכתה בדאבל היחיד בתולדות המועדון, תוך שהיא מציגה שלישיית קישור כשרונית שכללה את אייל ברקוביץ', ראובן עטר וטל בנין. בשער בלט שוער הרכש האוקראיני ויקטור צ'אנוב, שהוחתם במקומו של גיורא אנטמן לאחר שהקבוצה הובסה 0:5 על ידי מכבי נתניה.
הרכישה על ידי שחר: החל משנת 1992.
ב-1992 נמכרה מחלקת הכדורגל של מכבי חיפה מידי אגודת מכבי חיפה לידיים פרטיות, איש העסקים יעקב שחר, שהיה הספונסר שלה מאמצע שנות השמונים. שחר, שמכהן עד היום כנשיא המועדון, העניק לקבוצה גב מנהלתי וכלכלי, והחיל על המועדון סטנדרטי עבודה אירופאים.
התואר הראשון בתקופת שחר הושג ב-1993 כאשר מכבי חיפה זכתה בגביע המדינה לאחר ניצחון 1:0 על מכבי תל אביב משער של ראובן עטר במשחק הגמר. בעקבות הזכייה, העפילה הקבוצה לטורניר גביע אירופה למחזיקות גביע. במסגרת הטורניר של עונת ניצחה הקבוצה את טורפדו מוסקבה ואת פארמה, אך הודחה נגד האחרונה בדו-קרב פנדלים. תחת הדרכתו של גיורא שפיגל זכתה הקבוצה באליפות ללא הפסד ליגה (הישג שלא שוחזר מאז), תוך צבירת 95 נקודות (מתוך 117 אפשריות) וכיבוש 97 שערים. אחד המשחקים הזכורים באותה עונה הוא הניצחון 0:5 על מכבי תל אביב במשחק העונה. באותה עונה שברה הקבוצה שיאים ישראלים רבים: 28 ניצחונות בעונה, 46 משחקי ליגה רצופים ללא הפסד (מ-1993 עד 1995), הפרש שערים של 70+ ו-81% אחוזי הצלחה בליגה. סגל הקבוצה כלל אז את השוער רפי כהן; את שחקני ההגנה מרקו בלבול, משה גלאם, אלון חרזי, רומן פץ, איתן אהרוני ואריק בנדו; בקישור את אייל ברקוביץ' (שזכה בתואר "שחקן העונה"), רוני לוי, ראובן עטר, סרגיי קנדאורוב ואלון חזן; ובהתקפה את אלון מזרחי (שזכה בתואר מלך השערים עם 28 כיבושים), איוון גצקו ושי הולצמן. בעקבות הזכייה נכתב שיר האליפות "ירוק בעיניים" המזוהה עם הקבוצה לאורך שנים. קבוצה זו נבחרה לקבוצת היובל בסקר שערך ערוץ הספורט.