ההגדרה המעשית ביותר ל"מוזיקה יהודית" היא ככל הנראה זו שהוצעה על ידי קורט זאקס: "מוזיקה שנוצרת על ידי יהודים, עבור יהודים, וכיהודים". עם זאת, מוזיקה זו לא קורצה מחומר אחיד ועברה שינויים לאורך ההיסטוריה: היהודים בפזורה באו במגע עם מגוון רחב של סגנונות מוזיקליים שבחלקם אף היו שונים באופן מהותי מהמסורת היהודית (למשל באירופה).
השאלה מה מגדיר מוזיקה כיהודית הייתה נתונה במחלוקת בין חוקרים במיוחד בכל הנוגע ליצירות מוזיקה קלאסית מערבית. קיומה של מוזיקה יהודית כזו נחקרה ביתר שאת כתגובה למאמרו האנטישמי של ריכרד וגנר, "היהדות במוזיקה". לחלק מהיצירות הללו הוצמדו קונוטציות "יהודיות" מתוך כוונה מפורשת של המלחינים או באמצעות פרשנות המבקרים והציבור, אף שרוב המלחינים ממוצא יהודי במאה ה-19 הלחינו מוזיקה שלא יכלה להיחשב כיהודית בכל מובן שהוא, לא בעיני הביקורת ולא בעיני המלחינים עצמם. כך לדוגמה, ז'אק אופנבך, מלחין אופרות ואופרטות מהשורה הראשונה במאה ה-19, היה בנו של חזן וגדל באווירה של מוזיקה יהודית מסורתית, אבל המוזיקה שהלחין נעדרת מאפייני סגנון יהודיים, ואף הוא עצמו לא החשיב את יצירתו כיהודית. גם פליקס מנדלסון, נכדו של הפילוסוף היהודי משה מנדלסון, המשיך לראות עצמו כיהודי על אף הטבלתו לנצרות בגיל שבע, אולם אין ביצירתו מאפיין יהודי. "מוזיקה הנכתבת על ידי יהודים אינה בהכרח מוזיקה יהודית", כתב אריק ורנר (Eric Werner) ב-1938 במאמר חלוצי בנושא בכתב העת "Musica Hebraica" ("מוזיקה עברית", דהיינו "יהודית").
במהלך המאה ה-20 התפתחו שלוש גישות מרכזיות בחקר המוזיקה היהודית. גישה אחת רואה במזמורים, מנגינות או לחנים יהודיים עממיים כקובעת את "יהדותה" של היצירה. הגישה הסוציולוגית נותנת משקל לחיי קהילה יהודית (כגון יהדות מזרח אירופה) או להשפעתה של ריבונות מדינית (כגון מדינת ישראל) יהודית שמתוכם נוצרה המוזיקה. לבסוף, הגישה הגנטית-פסיכולוגית מזהה תכונות מוזיקליות מסוימות כנובעות מ"הנשמה היהודית הפנימית".
שורשים.
בתנ"ך.
היהדות מעולם לא פיתחה מערכת כוללת של תווים מוזיקליים במובן האירופי של סימון טונים, אם כי טעמי המקרא שימשו כאינדיקטורים למנגינות המלוות טקסטים מקראיים. מקובל לראות בטעמים אלו, שתוכנם השתנה ממקום למקום והועבר אך ורק מפה לאוזן, את שורשה של המוזיקה היהודית.
המקרא הוא המקור החשוב והעשיר ביותר על אודות חיי המוזיקה בארץ ישראל בעת העתיקה. עם זאת, קיים קושי רב לסדר כרונולוגית את העדויות המקראיות על המסורות המוזיקליות שהתקיימו אז, וזאת משום שלעיתים קרובות הן מתארות אירועים מוקדמים במקור מאוחר יחסית, ללא היגיון וללא סדר כרונולוגי. דוגמה לכך הם התיאורים על שירת הלוויים ופריסת כלי הנגינה בבית המקדש, שמתארים כנראה את חוויות המתאר עצמו מתקופתו. את התנ"ך משלימים אפוא מספר מקורות נוספים, כגון ממצאים ארכאולוגיים של כלי נגינה, איורים של סצנות מוזיקליות, השוואות למסורות מתרבויות שכנות, כמו גם מקורות בתר-מקראיים, כגון כתבי פילון האלכסנדרוני ויוסף בן מתתיהו, הספרים החיצוניים ודברי התַּנָּאים.
הממד המיתי וראשית המוזיקה מופיע במסורת המקראית בסיפורו של יוּבָל, . יתר המופעים מזכירים, ברובם, את חשיבות המוזיקה בהיבט הפולחני. בתיאורי המשכן בנדודי בני ישראל במדבר, אין כלל אזכור למוזיקה. החצוצרות שמוזכרות במקרא, שימשו בעיקר כאמצעי לאיסוף העם במסעות ובשעת מלחמה, וכן כהעלאת "זיכרון" האל בעת הקרבת קרבנות. הפעמון שענד הכהן על מעיל האפוד לא שימש ככלי מוזיקלי, אלא מילא תפקיד אַפּוֹטְרוֹפּאי. תיאורי הבאת ארון הברית לירושלים על ידי דוד המלך, בליווי אינסטרומנטלי, עומדים בהקשר של חגיגה ציבורית ספונטנית ולא כטקס מסודר. גם סיפור חנוכת בית המקדש הראשון בימי שלמה המלך אינו כולל תיאורים מוזיקליים מפורשים.
במקרא ישנם מספר תיאורים על חגיגות ספונטניות ומאורגנות שבהן נשים שרו, תופפו ורקדו לאחר ניצחונות במלחמה; בקרב הבדואים נפוץ נוהג זה עד ימינו. הדבר מתואר בין היתר בשירת מרים וכן בקבלת הפנים שנערכה לדוד ולשאול המלך לאחר שהכו את הפלשתים. בנוסף, ישנם תיאורים של פעילות מוזיקלית לא דתית. בעיקר במשתי העשירים ובחצרות המלכים, לעיתים קרובות בנימת תוכחה. מוזיקה עממית מוזכרת רק לעיתים נדירות, ומופיעה בין היתר בשמחות משפחתיות, בחגיגות הבציר והקציר, וכן כסוג של שירי עבודה וקריאות קצביות של הבוצרים בכרמים. הסגולות הרוחניות של המוזיקה מובעות בפסוקים המספרים על דוד שניגן לפני שאול כדי לסלק מעליו את מצב רוחו הנוגה (), ועל ההשראה שנחה על הנביאים כתוצאה מריקוד ומנגינה – - בקבוצות "בני הנביאים" אחת הדרכים להשראה לנבואה ודבר מקובל היה נגינת מוזיקה.
בספר דברי הימים מופיע האלמנט המוזיקלי כחלק החשוב ביותר של עבודת המקדש, כולל רשימות מפורטות של כלי הנגינה, ושל סדר משמרות הזמרים והמנגנים הלויים, שלפי המסופר תוכננו על ידי דוד ויושמו על ידי שלמה בבית המקדש הראשון. השופר הוא כלי הנגינה המקראי היחיד ששרד עד ימינו. מרשימות הגולים בספרי עזרא ונחמיה, המציינות מספר משפחות זמרים, ניתן ללמוד על כך שהמוזיקה מילאה תפקיד מסוים גם לקראת סוף ימי בית המקדש הראשון, אם כי ישנם ממצאים המצביעים על כך שבבית המקדש הראשון היה שימוש מועט במוזיקה. המוזיקה בלטה ככל הנראה יותר במקדשים מחוץ לירושלים, כפי שעולה בין היתר מנבואות הזעם של הנביא עמוס נגד הפאר החיצוני והשירה באחד מהמקדשים הללו, ככל הנראה בשכם: . הקינה במזמור על נהרות בבל, , איננה האנשה פיוטית מופשטת, אלא נסובה על זמרים לויים שאולצו בין היתר לשיר "שירי ה'" בפני שוביהם, מלכי אשור ובבל. עם השיבה מגלות בבל שבה שירת הקודש לשמש בעבודת בית המקדש השני שהוקם בירושלים, ומבנה התזמורות שהיו נהוגות באשור אף הפכו לאבטיפוס של התזמורות בבית המקדש.
הופעת השירה בבתי הכנסת.
חורבן בית המקדש השני בשנת 70 לספירה וביטול עבודת המקדש בעקבותיו, שמו קץ לזמרה האינסטרומנטלית המעודנת של הלויים. השימוש בכלי נגינה לליווי התפילה נאסר בין היתר משום "זכר לחורבן", והמוזיקה בכלל, שנתפסה לעיתים כמקור בידור חסר תכלית, הוגבלה בעיקר ל"שמחת מצווה" או לאמנות קולית (גברית) בלבד בבתי הכנסת. מגבלה זו הותירה חותם עז במורשת המוזיקלית היהודית; המיומנויות שצברו הלויים במשך דורות לא נוצלו בבתי הכנסת, ונעלמו עם השנים; והתפילה המילולית, שמילאה כעת את תפקיד הקרבנות בעבודת האל, צריכה הייתה להיות מסוגלת להביע את ה"עבודה שבלב", ולבטא מגוון רחב של רגשות אנושיים: שמחה, הכרת תודה, שבח, תודעת חטא וחרטה.
המידע שקיים בידינו אודות המסורת המוזיקלית שהייתה נהוגה בבתי הכנסת מבוססת בעיקר על תיאורים משניים ועל מסורת בעל פה, הן בשל העובדה שהמערכת המודרנית לרישום תווים, שעושה שימוש בחמשה, התפתחה רק במאה ה-11, והן בשל העדר הכשרה רחבה בקרב יהודים לשימוש בשיטות לתיעוד מדויק של מוזיקה גם בתקופות מאוחרות יותר. שימוש ראשון ונדיר בתווי נגינה של מוזיקה יהודית הוא משנת 1130 לערך, אך עיקר מלאכת התיעוד החלה במאה ה-18 לאחר שחזנים למדו מוזיקה מערבית.
במהלך המאות הראשונות לספירה שררה אחדות סגנונית בבתי הכנסת בקהילות היהודיות השונות במזרח התיכון. לחנים מורכבים לא היו מקובלים, ככל הנראה, ומנגינות התפילה התבססו על תבניות דקלום (קריאה יפה בקול רם) פשוטות של אמירת תהילים ופרקי תפילה אחרים, שהוקראו על ידי שליח ציבור יחד עם הקהל במעין דיאלוג. למשל: הצבור אמר "נאוה תהילה", והחזן המשיך: "בפי ישרים..." שיטה זו עדיין נהוגה בימינו בקהילות תימניות. סגנון דומה של דקלום קיים גם במסורת של הכנסיות הקתוליות והאורתודוקסיות העתיקות ביותר, שככל הנראה קיבלו מהיהדות את כתבי הקודש יחד עם השלד המוזיקלי שנלווה אליהם.
בתקופת גאוני בבל במאה השישית, כשהחלו להתפתח הפיוטים - קטעי שירה דידקטיים ששולבו בקטעי התפילה הקיימים, ולפיוטים הוצמדו לחנים מיוחדים, התבסס מעמדו של שליח הציבור כחזן שנדרש לזמר את הלחנים בביצוע אמנותי הולם. הפיוטים אף נכתבו לרוב על ידי החזנים עצמם. אחד החזנים הראשונים, היה אלעזר הקליר שחי בארץ ישראל במאה השישית. התפתחות הפיוט והניגון לוותה בהתנגדות מצד רבנים, בין היתר כי הם נתפסו כשינוי מ"מטבע שטבעו חכמים". כך למשל פסק רב נחשון שחי בבבל במאה התשיעית: "ואין מכניסים לבית הכנסת חזן שיודע פיוט. ובית הכנסת שאומרים פיוט מעידין על עצמם שאינם תלמידי חכמים". גם בגרמניה בסוף המאה ה-12 מחה רבי יהודה החסיד על החזנים שחוזרים על הקטעים המיועדים לציבור: "חטא הוא, לפי שהן עושין כן כדי להשמיע קולם הנעים, ועוד שיש טורח ציבור שלא לצורך". למרות זאת התחבבו הפיוטים והנעימות על הקהל, ועם השנים הפכה מוזיקת בית הכנסת לאמנות המוזיקלית היחידה שנטמעה במורשת היהודית גם מחוץ לבית הכנסת בכלל מחזור החיים היהודי. הדרישות יצרו ביקוש לחזנים מוכשרים בבתי הכנסת, שהעלו את החזנות לדרגת אמנות אשר שכרה בצִדהּ (ראו פרק נפרד).
ההבדלים בהשקפות ובטעמים בין הקהילות בפזורה היהודית, הובילו למנהגים מוזיקליים שונים בבתי הכנסת, לא רק בין קבוצות גדולות (כמו מנהג אשכנז, ספרד, איטליה, רומניה), אלא גם בין קהילות "פנימיות", כגון יהודי אביניון, מיינץ ופראג, שפיתחו מאפיינים מוזיקליים משלהם. הרפרטואר של שירת הקודש של ביתא ישראל ייחודי בכך שהוא חף כמעט לחלוטין מהשפעת מסורות דתיות מטריטוריות סמוכות למקום מושבם בגלות אתיופיה ומהשפעת מסורות של קהילות יהודיות אחרות.