ב-1973 הקליט צוות הווי חיל התותחנים עם הסולנית מלי ברונשטיין את השיר "בלילות הקיץ החמים", שהלחין כספי למילים של דן מינסטר. השיר היה ללהיט גדול. כספי הלחין ועיבד שירים ללהקה כחלק משירות המילואים שלו, ואת השיר הזה הלחין לבקשתה של ברונשטיין. באותה שנה העלה צוות בידור חיל האוויר את התוכנית "מסביב לעולם ב-80 דקות", שכספי הלחין כמעט את כל שיריה, וכן עיבד והפיק מוזיקלית. בין חברי אותו הרכב הייתה הזמרת נתנאלה, שהמשיכה בשיתוף פעולה עם כספי לאחר שחרורה מהצבא.
כמו כן הלחין לתוכניתה של להקת גייסות השריון "שיר-יון הרצל" מאותה שנה את השיר "25 שנה" למילים של יהונתן גפן. לאלבומן של סוזן ופראן "אמש" שיצא באותה שנה הלחין כספי את השיר "לא דיברנו עוד על אהבה" (מילים: אהוד מנור), שהיה לאחד השירים המוכרים ביותר של הצמד. לאלבום זה הלחין כספי יחד עם שלמה גרוניך את השיר "סוסי הפרשים" למילותיו של המשורר אמיר גלבע, ועיבד עבורו מספר שירים נוספים. באותה שנה הקליטה שלישיית אף אוזן גרון את שירו של כספי "שלא ייגמר לי הלילה" (מילים: יהודה שביט). השיר בוצע מאוחר יותר גם על ידי שלישיית הנשמות הטהורות, בהפקה מוזיקלית של כספי.
לאלבומה של חוה אלברשטיין "לו יהי" שיצא ב-1973 הלחין כספי שני שירים למילים של יורם טהרלב, "בלדה על סוס עם כתם על המצח" ו"להפוך ענבים ליין". השיר "בלדה על סוס עם כתם על המצח" היה לאחד הלהיטים הגדולים של האלבום. כספי גם עיבד מספר שירים עבור האלבום. עוד ב-1973 עלה המחזה "לילי גם" מאת אהוד מנור, שכספי הלחין את כל שיריו. בין השירים המוכרים של המופע היו "חלומות שמורים" בביצועו של יזהר כהן, "הבלון שלי" בביצועו של רומן שרון ו"מימי המתוקה" בביצועם של כהן ושרון.
במלחמת יום הכיפורים הופיע כספי בצוות הווי עם אילנה רובינא, אושיק לוי ופופיק ארנון. צוות זה הקליט שיר אחד בשם "אין לנו מילים", שכתבו ארבעתם ביחד והלחין כספי. לחלק מההופעות הצטרף הזמר הקנדי לאונרד כהן. אחרי המלחמה הופיע ההרכב מספר פעמים בפני קהל אזרחי, אך הופעות אלו לא האריכו ימים.
ב-1974 עיבד כספי את שירי תוכניתה של להקת חיל הים "הללו-ים", וכן הלחין עבורה שני שירים. לאלבומו של אושיק לוי "אושיק לוי" שיצא באותה שנה הלחין כספי את השיר "זה מכבר" למילים של לאה גולדברג. השיר היה ללהיט, ולאחד משיריו המוכרים ביותר של לוי. לפסטיבל שירי הילדים הרביעי שהתקיים בפסח 1974 הלחין כספי למילים של אהוד מנור את השיר "מי ראה את באני", שאותו ביצעה תיקי דיין. לפסטיבל הזמר והפזמון של אותה שנה הלחין כספי למילים של שמרית אור את "שיר היונה", שאותו ביצעה הזמרת נתנאלה. השיר זכה להצלחה והפך לאחד משיריה המוכרים ביותר של נתנאלה. נתנאלה גם השתתפה בפסטיבל שירי הילדים החמישי שנערך בסוף אותה שנה עם השיר "בן" שהלחין כספי למילים של אהוד מנור.
ב-1975 הפיק כספי את אלבומה של רביעיית הזמר של חיל האוויר "משירי מרדכי זעירא ועוד שירים יפים". כספי הלחין ארבעה משירי האלבום, שהמוכר מהם הוא "אם תלך עכשיו" ("במקום פרידה") למילים של המשורר נתן יונתן. כמו כן הפיק באותה שנה את אלבום הבכורה של להקת שוקולד מנטה מסטיק, שבו נכלל השיר "נוח", ושיר נוסף שהלחין כספי בשם "שיר של אמא". כספי גם עיבד באותה שנה מספר שירים באלבומה המצליח של חוה אלברשטיין "כמו צמח בר". לאלבום זה הלחין את אחד משיריו המוכרים ביותר, "ימי בנימינה" למילים של אהוד מנור. בפסטיבל שירי הילדים של אותה שנה השתתפה תיקי דיין עם שירו "שלום כיתה א'" (מילים: מנור). שיר נוסף בלחנו של כספי שהתפרסם באותה שנה הוא "מקום לדאגה" (מילים: יהונתן גפן) בביצועה של שרה בדישי.
לאלבומו של דורי בן זאב "לימונדה" שיצא באותה שנה הלחין כספי את השיר "ואתם רוקדים" למילים של בן זאב.
לאלבומו של דני ליטני "יחס חם" שיצא באותה שנה הלחין כספי את השיר "לא טוב היות האדם לבדו" (נתן זך) ששר ליטני בדואט עם יהודית רביץ. רביץ השתתפה באותה שנה בפסטיבל הזמר והפזמון עם השיר "מישהו" שהלחין כספי למילים של אהוד מנור. השיר לא זכה להצלחה גדולה בפסטיבל, אך הפך לאחד מלהיטיה הגדולים ביותר של רביץ. הוא נכלל באלבום הבכורה שלה שיצא ב-1979, שעבורו הלחין כספי להיט נוסף, "לקחת את ידי בידך" (יעקב רוטבליט). באותה שנה הפיק כספי את אלבומם של הדודאים "הם רוכבים ושרים". לאלבומו של יוסי בנאי "יוסי בנאי" שיצא באותה שנה הלחין את השיר "מרוב אהבה" (מילים: בנאי).
באותן שנים שודרה תוכנית הטלוויזיה לילדים "קרוסלה", שחלק מהשירים שבה הולחנו על ידי כספי למילים של לאה נאור. בין השירים המוכרים של התוכנית היו שיר הפתיחה "קרוסלה" ו"הסביבון שלי".
עוד ב-1976 הלחין כספי את השיר שייצג את ישראל באירוויזיון של אותה שנה, "אמור שלום" שכתב אהוד מנור ושרה שלישיית שוקולד מנטה מסטיק. כספי גם ניצח על השלישייה בתחרות, שבה הגיע השיר למקום השישי. השיר נכלל באלבומה השני של השלישייה, שגם אותו הפיק כספי. לאלבומו של יוסי בנאי "מאזן האהבות" שיצא באותה שנה הלחין את השיר "דקה דומיה" למילים של יהונתן גפן. לאלבומה של נתנאלה "אל ארצי" הלחין למילים של מנור את השיר "עוד יבוא היום".
מאחורי הצלילים.
בשנת 1971 שיתף פעולה לראשונה עם המוזיקאי שלמה גרוניך. שיתוף הפעולה הראשון ביניהם היה במחזה "עיר הגברים", שכספי הלחין ועיבד את שיריו וגרוניך ניגן בו בפסנתר.
ב-1972 הוציאו תקליט שדרים בן שני שירים: "ציור" ו"בן-גוריון". בהמשך אותה שנה העלו את המופע המשותף "מאחורי הצלילים". פרט ל"ציור" ול"בן-גוריון" נכללו במופע להיטים כ"אחרי שנסעת" ("ואותך") (גרוניך/כספי) שאיתו השתתף כספי בפסטיבל הזמר והפזמון של אותה שנה ו"כשאלוהים אמר בפעם הראשונה" (נתן זך/כספי) שהלחין כספי עבור ערב שירי משוררים של גלי צה"ל. כספי וגרוניך הלחינו חלק משירי המופע במשותף, כ"אבי" ו"אלוהים מרחם על ילדי הגן" (יהודה עמיחי).
ב-1973 יצא האלבום "מאחורי הצלילים", שתיעד את המופע.
תחילת קריירת הסולו.
ב-30 במאי 1974 הוציא כספי את אלבום הבכורה שלו, "מתי כספי", שכלל 10 רצועות שאת כולן הלחין, ובכולן ניגן בכל הכלים וביצע את קולות הרקע. את עטיפת האלבום צילמה אלונה איינשטיין. בריאיון עיתונאי סיפר כספי כי מי שנתן לו את הדחיפה להוציא את האלבום היה הזמר אריק איינשטיין, וזאת לאחר שכספי השמיע לו את שירו "אלוף-משנה במילואים" למילותיו של יעקב רוטבליט.
רוב שירי האלבום לא נוצרו במיוחד עבורו, אלא עבור מסגרות שונות שבהן פעל כספי בראשית שנות השבעים. כך למשל מופיע באלבום השיר "נח" שאותו שר כספי עם שלישיית שוקולד מנטה מסטיק בפסטיבל הזמר והפזמון של אותה שנה, וכן גרסאות מחודשות לשירים "כשאלוהים אמר בפעם הראשונה" ו"אחרי שנסעת" שנכללו במופע "מאחורי הצלילים". את השיר "הבלון שלי" (מילים: אהוד מנור) הלחין כספי להצגה "לילי גם" שבה שר את השיר רומן שרון. השיר הוקדש באלבומו של כספי לזכרו של שרון, לאחר שנהרג בתאונת דרכים בסיני. "כלבלב הו בידי בם בם" ו"איך זה שכוכב" שכתב נתן זך בוצעו לראשונה על ידי תיקי דיין. שיר נוסף מוכר מהאלבום הוא "ביום מסה" אותו הלחין כספי למילותיו של משה טבנקין.
ב-1975 זכה כספי בתואר "מלחין השנה" במצעד הפזמונים העברי השנתי של גלי צה"ל. אהוד מנור זכה בתואר "פזמונאי השנה", ויחד יצרו מנור וכספי את "שיר הנבחרים" של אותו מצעד, "הנה הנה".
באותה שנה הלחין כספי את מוזיקת הרקע של סרט הקולנוע "חגיגה בסנוקר". אחת הנעימות שהלחין עבור הסרט שימשה בסיס לשירו "ברית עולם" (מילים: אהוד מנור), שאיתו השתתף בחגיגת הזמר העברי שנערכה ב-1976. השיר זכה להצלחה, והפך לאחד משיריו האהובים ביותר של כספי.
את אלבומו השני, שנקרא גם הוא "מתי כספי", הוציא בשנת 1976. את עטיפת האלבום עיצב הגרפיקאי והאמן דוד טרטקובר, ומופיע בה פעמון דלת טיפוסי עם השם "מתי כספי" (את הצילום ביצע הצלם ז'ראר אלון). עד היום נחשבת עטיפת האלבום לאחת מעטיפות האלבומים הישראליות האיקוניות ביותר.
בשונה מאלבומו הקודם, אירח הפעם כספי מספר מוזיקאים מובילים בשניים משירי האלבום (בשאר השירים מנגן כספי לבדו על כל הכלים): שלמה יידוב, גידי גוב ואבנר קנר. את רוב השירים באלבום כתב אהוד מנור, שמאז הפך לשותפו הקבוע של כספי ליצירה. באלבום נכללו השירים "הנה הנה" ו"ברית עולם", וכן "לא ידעתי שתלכי ממני", "אין שלווה" ו"יום שישי חזר". שלושת השירים באלבום שאותם מנור לא כתב היו שירי משוררים: "עיר עצובה" שכתבה תרצה אתר, "יום יום אני הולך למעונך" שכתב יעקב פיכמן ו"סוזי דולצינאה" שכתבה דליה רביקוביץ. השיר "יום יום אני הולך למעונך" הולחן עבור ערב שירי משוררים השני של גלי צה"ל.
רבים משירי האלבום הפכו ללהיטים. בשנת 2008 נבחר האלבום כאלבום החשוב במוזיקה הישראלית של שנות ה-70 בסיכום 60 שנה למדינת ישראל בעיתון ידיעות אחרונות.
ב-1978 החל כספי בעבודה על אלבום סולו שלישי. לאחר שהקליט שני שירים, "פרלוד" ו"תופים השניים", החליט לגנוז את האלבום, והחל לעבוד במקום על אלבומו "צד א' צד ב'" שיצא באותה שנה. האלבום הורכב ברובו מגרסאות כיסוי לשירים שהלחין כספי במקור עבור זמרים אחרים. בין היתר נכללו בו ביצועיו של כספי ל"שיר אהבה" ("כמו גלגל") שהלחין לעפרה פוקס, "בלילות הקיץ החמים" שהלחין לצוות הווי חיל התותחנים ו"אליעזר בן יהודה" שהלחין לחוה אלברשטיין. כמו כן נכללה באלבום גרסה מחודשת לשיר "כמה שירים אפשר להמציא בכלל", שאותו הקליט כספי במקור ב-1973. את מילות השיר כתב כספי, וזהו שירו הראשון שאת מילותיו כתב בעצמו.