প্রথম যে যন্ত্রটিকে বাদ্য হিসেবে বিবেচনা করা হয়, তার উৎস ও সময়কাল বিতর্কিত। সর্বপ্রাচীন যে বস্তুটিকে কিছু সংখ্যক বিজ্ঞ বাদ্যযন্ত্র হিসেবে নির্দেশ করেছেন, তা সম্ভবত একটি সাধারণ বাঁশি, যার বয়স আনুমানিক প্রায় ৬৭,০০০ বছর। কিছু কিছু মতামত অনুযায়ী অবশ্য প্রাচীন বাঁশিসমূহের বয়স অনুমান করা হয় প্রায় ৩৭,০০০ বছর। যাহোক, অধিকাংশ ঐতিহাসিক বিশ্বাস করেন যে, বাদ্যযন্ত্রের আবিষ্কারের সুস্পষ্ট সময় খুঁজে বের করা অসম্ভব। কারণ, বাদ্যযন্ত্রের সংজ্ঞার প্রাসঙ্গিকতা ও বাদ্যযন্ত্র তৈরিতে ব্যবহৃত উপকরণসমূহের অনির্দিষ্টতা বাদ্যযন্ত্র সম্পর্কে সুষ্ঠু ধারণার অন্তরায়। অনেক প্রাচীন বাদ্যযন্ত্রসমূহ বানানো হতো পশুর চামড়া, হাড়, কাঠ এবং অন্যান্য অস্থায়ী উপকরণ দ্বারা।