Vår kjennskap til musikken fra førhistorisk tid (fra tiden før det finnes skriftlige kilder) er begrenset, og baserer seg mest på spekulasjoner ut ifra arkeologiske funn. Man har funnet mange utskårne beinfløyter. Divje-Babe fløyten, som er utskåret fra lårbenet til en hulebjørn, er anslått til å være minst 40 000 år gammel. I Indusdalen har man gjort arkeologiske funn av flyter med 7 hull, og forskjellige typer strengeinstrumenter. India har en av de eldste sammenhengene musikktradisjonene i verden. Det finnes henvisninger til indisk klassisk musikk i Vedaene, hindutradisjonens antikke verk. Den eldste og største samlingen av førhistoriske musikkinstrumenter ble funnet i Kina og kan dateres til mellom 7 000 og 6 600 f.Kr. Den såkalte hurritiske sang som er skrevet med kileskrift på leirtavler kan tidfestes til omtrent 1400 f.Kr. Det er det eldste noterte musikkverket som har blitt bevart fram til i dag.