בהתאם לתוכנית המקורית, הייתה אמורה להתבצע כל נסיעה בין שתי התחנות הקיצוניות במשך 6 דקות. בחודש ינואר 1960 ארעה תאונה מסתורית בכרמלית: חוט חשמל שנמצא קרוע בלוח הבקרה מנע את עצירת הכרמלית במקום שבו הייתה אמורה לעצור - תחנות "כיכר פריז" ו"גן האם". מערך הקרונות התנגש בקירות התחנות ונעצר. נזק קל נגרם לדפנות הפח ולמערכת הגלגלים.
בחודש פברואר 1960 הוחלט, לאחר התאונה האחרונה ומטעמי בטיחות, להאט את מהירות הנסיעה, במיוחד בקטעי המפגש של מערכי הקרונות ובסוף הנסיעה עם כניסת מערך הקרונות לתחנה הסופית, כך שמשך זמן הנסיעה הוארך ל-7 דקות. לאחר הפסקה של למעלה משלושה שבועות במהלך הכרמלית, חודשה ההפעלה ב-17 במרץ 1960. החל מ-6 באוקטובר 1960, הופעלה הכרמלית בין השעות 05:30 - 24:00 בתדירות אחידה של 6 נסיעות לשעה בכל כיוון.
ב-28 ביוני 1961 פרסם שר התחבורה את תקנות התעבורה (סדרי תנועה ושמירת הביטחון בכרמלית בחיפה), התשכ"א-1961. התקנות מפרטות את סמכויותיהם של מפעילי הכרמלית (התחנאי ומלווה הקרון) באכיפת סדרי התנועה והביטחון בכרמלית ובתחנותיה. תקנות אלה נמצאות בתוקף עד היום.
ביום שישי, 24 בנובמבר 1961, בשעה שהתבצעו בכרמלית עבודות להחלפת כבל המשיכה, ניתקו לפתע ממקומם שני קרונות שחנו בתחנת המוצא בגן האם. הרכבת התדרדרה והתהפכה בתחנת מסדה. שני הקרונות של המערך נפגעו, וכן נפגע הרציף בתחנה.
בתום הפסקה בת כחודשיים וחצי נפתחה מחדש הכרמלית ב-8 בפברואר 1962, תוך יישום והפקת לקחים. ואולם, לאחר שנות פעולה מעטות נוצר צורך לשפץ שיפוץ מקיף את שני מערכי הקרונות. בחורף 1963 שקעה תשתית המסלול בקטע שבין תחנות "מסדה" ו"הנביאים". ניסוי לייצוב קטע זה בוצע בהצלחה על ידי מהנדסים מהטכניון בסתיו 1964 בשיטת אלקטרו-סיליפיקציה: לתוך המסלול הוחדרו אלקטרודות אלומיניום בקוטר 6 ס"מ לעומק של 1.5 מטר. דרכן הוחדר סודיום-סיליקט (Na2SiO3) תוך העברת חשמל בזרם ישר. לאחר החורף הגשום נשארה הקרקע יציבה.
בשלהי שנת 1964 הוחל בתכנון מוסך ובית מלאכה תת-קרקעיים בתחנת "כיכר פריז". בתחילת אפריל 1966 פורסם מכרז להקמת המבנים התת-קרקעיים. עם גמר התכנון ופרסום המכרז, הוחל מיד בעבודות הכנה להעברת קווי ביוב וטלפון במקום. עבודה זו בוצעה במשך קיץ 1966. בשנים 1966-1967 נבנה בתחנת "כיכר-פריז" המוסך התת-קרקעי שבו הוקם בית-מלאכה מצויד היטב המאפשר ביצוע עבודות תיקונים ושיפוץ קרונות בקנה מידה גדול וביתר יעילות והעיקר - ללא כל הפרעה לתנועת הנוסעים הסדירה בכרמלית. עבודות הכרייה והבניה העיקריות למוסך נדחו עקב עונת הגשמים והחלו באביב 1967. ב-15 ביולי 1967 ארעה תקלה במערכת המשקל הנגדי שבתחנת "כיכר פריז". תנועת הכרמלית הושבתה למשך שבוע ימים. חדירת מי תהום למקום המשקל הנגדי וקלקול המשאבות גרמו להארכת זמן התיקון לכדי 6 ימים. עבודות הקמת המוסך הסתיימו בחודש פברואר 1968 למעט כיסוי התקרה ושיפורים בשטח הכיכר שהושלמו בחודשים אפריל-מאי 1968.
במוסך נבנה מקום למערך של שני קרונות רזרביים ונעשו כל הסידורים המכניים שאיפשרו הוצאת קרון מקולקל או הטעון שיפוץ בקלות. כמו כן, ניתן היה להכניס קרון רזרבי במהירות לפעולה. במטרה לאפשר שיפוץ כללי ויסודי של שני מערכי הקרונות הקיימים לאחר פעילות כמעט רצופה למן חודש אוקטובר 1959, הוזמן באוקטובר 1966 - על ידי מהנדס העיר יוסף כהן ומנהל הכרמלית יצחק צ׳לניק - מערך קרונות נוסף (שלישי: קרונות מס' 5, 6) מהיצרן הצרפתי CIMT-LORRAINE שזכה במכרז. המערך השלישי החדש כלל כקודמיו שני קרונות ונבנה במיוחד עבור הכרמלית; לקהל הנוסעים נראה רק שוני אחד: הכיסאות המרופדים הוחלפו בכיסאות קשיחים מפלסטיק אבל בפועל היה במערך גם שינוי מההיבט הטכני: שיטת הבלימה בעצירה ובחירום שונתה לשיטה המקובלת ברכבות (חיכוך רפידות על המשטח החיצוני של חישוקי הגלגלים) במקום זו המקובלת במשאיות. בין השנים 1968 ל-1974 נעשו שיפוצים במוסך התת-קרקעי לשני המערכים המקוריים, וכן הוחלף כבל המשיכה של הכרמלית.
סגירת הכרמלית ושיפוצה.
בחודש פברואר 1986 פרסם "המפקח על התעבורה" אזהרה פומבית ובה נאמר כי סכנה נשקפת לכל מי שישתמש בכרמלית, בשל תנאי הבטיחות הלקויים שבהם הופעלה. ב-7 במרץ 1986 הושבתה הכרמלית לשבועיים עקב בעיות טכניות שונות ומאז ועד דצמבר 1986 כמעט ולא הופעלה אלא לנסיעות ריקות כדי למנוע את התנוונות המערכות. ביום שישי, 19 בדצמבר 1986, בסמוך לשעה 15:00 ולאחר 27 שנות הפעלה רצופות, הופסקה פעילותה של הכרמלית כתוצאה ישירה מהתיישנות המערכת: הן קרונות הנוסעים והן מערכות התשתית ומבני התחנות.
בחודש נובמבר 1986 הציעה החברה הממשלתית הספרדית לרכבות "אינרייל" לעיריית חיפה, שיפוץ כללי של הכרמלית, תוך הבטחת מימון ממשלתי ואפשרות ליטול על עצמה את הפעלתה. גם חברת "דיקהוף ויצמן" הגרמנית הציעה הצעה דומה אך דבר לא יצא אל הפועל משתי הצעות אלה.
הוצא מכרז בינלאומי כללי תחת הכותרת "עבודות חידוש ושיקום הרכבת התחתית בחיפה, כולל מנהרה ותחנות". שתי חברות ניגשו למכרז. חברת SAES מצרפת הגישה הצעה שעל-פיה תבצע את העבודה בתוך 26 חודשים, תמורת 29.2 מיליון שקלים (על-פי ערכי המטבע בשנת 1988). חברת Von Roll השווייצרית דיברה על ביצוע העבודות בתוך 16 חודשים, תמורת 23 מיליון שקל, אך התברר שבחברה טעו לחשוב שמדובר ברכבל המעלה אנשים בעמידה עם ציוד לסקי ולא ברכבת להסעה המונית, ובהמשך תוקנה הצעתם ל-23 מיליון דולר. במקביל לשתי הצעות אלה, הגישה חברת הכרמלית (הישנה) הצעת שיפוץ ושדרוג במחיר משוער של 9 מיליון דולר במונחי שנת 1988.
חוסר הבנה מקצועי בנושא הביא להחלטת העירייה לשכור את שירותיה של חברת ייעוץ מיוחדת לרכבות תחתיות - חברת "טכניטאס" מצרפת, שתמורת 200 אלף פרנקים צרפתים, הייתה אמורה להכריע בין שתי המתמודדות העיקריות במכרז. אחרי כשנה של דיונים, התכתבויות וביקורים בפריז, המליצה החברה המייעצת על התקשרות עם החברה השווייצרית Von Roll. בחודש דצמבר 1988 הודיעה עיריית חיפה לחברה אודות זכייתה.
בין השנים 1986–1990 המשיכו שישה מעובדי הכרמלית לתחזק את המערכת המחלידה: מתחת לפני האדמה, במנהרה הטחובה של הכרמלית המושבתת, הופעלו קרונות הכרמלית פעמיים ביום הלוך וחזור. כמו כן, הופעלו המדרגות הנעות, החשמל הודלק והשירותים הושארו פתוחים לרשות הציבור בשתי תחנות: "גן האם", ו"הנביאים".
במרוצת שנת 1989 פנה משרד התחבורה אל "המכון הישראלי לתכנון ומחקר תחבורה" והזמין מחקר מקיף אודות כדאיות שיקום הכרמלית. המסקנות הצביעו בבירור על כך שהכרמלית איננה יכולה להוות פתרון לעומס התנועה בצירים סתומים של תחבורה ציבורית.
למרות כל התחזיות, החליטה עיריית חיפה לשקם במרץ את הכרמלית: ב-22 באוגוסט 1989 קיבלה לידיה החברה הכלכלית לחיפה את הפרויקט שבוצע במשך 20 חודשים רצופים החל מ-29 באוקטובר 1990 שבו "נורתה יריית הפתיחה לעבודות". עלותו הכללית של הפרויקט החדש נאמדה ב-27–28 מיליון דולר. חברת "פנחס כהן איטליקה" בע"מ, ממפרץ חיפה, חתמה הסכם עם החברה הכלכלית לחיפה, לציפוי קרמי של 6 תחנות הביניים במסלול הכרמלית, בהשקעה של 400 אלף דולר.
1992 - הכרמלית החדשה.
הכרמלית הייתה אמורה להיפתח לשימוש ב-1 ביוני 1992. אך בפועל, נדחה מועד הפתיחה כמעט בחודשיים משום שכאשר הונחו הקרונות החדשים בתוך המנהרה, התנגשו שני קרונות ונגרם נזק כבד שהצריך יבוא חלקי חילוף מהיצרן בשווייץ. חברת VON ROLL התחייבה לשלם 5,000 דולר על כל יום עיכוב.
לבסוף, נחנכה הכרמלית מחדש בטקס רשמי במעמד ראש הממשלה ושר הביטחון יצחק רבין וראש עיריית חיפה אריה גוראל, ב-28 ביולי 1992, בגן האם.
לרגל סיום תקופת ההרצה של הכרמלית החדשה, היא נסגרה לציבור מ-28 באוגוסט 1992 למשך שבועיים לצורך בדיקות קבלה סופיות על ידי החברה הכלכלית לחיפה (במהלך תקופת ההרצה, הופעלה הכרמלית באחריות החברה השווייצרית VON ROLL). המערכת כולה הופעלה באמצעות 22 עד 25 עובדים בשנות ה-90. עד שנת 2002 ירד מספר העובדים ל-17.
בחודש יולי 2003 הוחלף שמה של תחנת הכרמלית "גולומב" בשם "בני-ציון", על שם בית החולים הסמוך אליה. במקור נקראה התחנה על שם הרחוב בו היא נמצאת. אולם, התחנה שבה לשמה המקורי "גולומב" עם פתיחתה המחודשת של הכרמלית בשנת 2018.
במהלך חודש ספטמבר 2003 פתחה עיריית חיפה במשא ומתן עם חברה פרטית במטרה להביא למהפכה בתחבורה הציבורית בחיפה. הרעיון היה שימוש בטכנולוגיה החדשנית של "השיטה ההיברידית", המשלבת תחבורה תחתית (הכרמלית), תחבורה בגובה הכביש ותחבורה עילית (בגובה של 4–5 מטרים מעל גובה הכביש). את המהלך הוביל יו"ר מועצת המנהלים של "הכרמלית" באותה עת, עמוס ארן, שיצר קשר עם קבוצת "P.N.D", שבראשה עמד אז הרמטכ"ל לשעבר, דן שומרון. המודל שנדון היה של רכבת עילית הנוסעת על ציר הכביש, אך אינה מפריעה לתחבורה המתנהלת על הכביש. דובר על רכבת הפועלת על חשמל אשר אינה פוגעת באיכות הסביבה ואינה מזהמת את האוויר. היות שמדובר היה בפרויקט חסר תקדים בהיקפו בחיפה, שעלותו עשויה הייתה להגיע למאות מיליוני דולרים, הציע ארן להוציא את הפרויקט למכרז בינלאומי בשיטת בנה-הפעל-העבר (BOT). התקופה המרבית עליה דנו הייתה 90 שנה. הרעיון לא יצא אל הפועל.