שמואל אשכנזי נולד בשנת 1941 בתל אביב, אך כבר בהיותו בן חודשיים עזבה משפחתו את העיר בעקבות הפצצת האיטלקים ועברה לחולון, שם גדל והתחנך. אביו, שעלה ארצה מגליציה בשנת 1935 היה בעל מלאכה חובב מוזיקה, וגמר אומר להקנות לילדיו את החינוך המוזיקלי שנשלל ממנו בילדותו. שמואל החל לנגן בגיל שש, תחילה אצל דודו, כנר חובב, ואחר אצל אילונה פהר כתלמידה הראשון של מי שנודעה במשך השנים כ"יוצרת ילדי פלא". הופעתו הפומבית הראשונה הייתה בגיל 12, בנשף העיתונאים בירושלים, וזמן קצר אחר כך הופיע ברסיטל ראשון במוזיאון תל אביב ובקונצרט באולם ימק"א ירושלים, עם תזמורת קול ישראל, בנגינת הקונצ'רטו לכינור של ארנסט שוסון.