そもそも楽器はいつ頃発明されたのか、様々な楽器がそれぞれいつ発明されたのかという問題は多くの人の関心を呼んできたが、初期の楽器は今日的な意味で「発明」されたわけではなく、大地を踏み鳴らしたり、手で体を打ったりといった人間の様々な動作衝動によって生み出されてきたに違いないのであって、おそらくリズムを刻む種類の楽器が最初に作られたのであろうとザックスは指摘した。さらにはより大きな音や激しい音を得るために木や石を叩いた可能性も大きい。具体的には旧石器時代に「がらがら」を作っていたことが知られ、これは音をより長く持続させるための工夫であったかも知れない。楽器の種類としては打楽器が最も早かったと考えられる。これは作るのが容易であると考えられること、それに現在の民族で打楽器を持たないものがほとんど無いことから推察される。がらがらの他に木の棒を叩く「クラッパー」などがもっとも初期のものと考えられる。なお、笛も、すでに旧石器時代のそれと思われるものが発見されている。
打楽器は、全ての楽器の中で一番古い歴史をもっている。原始時代から存在していて、古代の人々は、両手を打ち合わせたり、木の枝でものをたたいて音を作り出した。
また山間の歩行に、猛獣毒蛇をさけるための打ち道具も、ダンスに利用すれば立派な楽器となり、これがない場合には、拍手、足ぶみ、胸、腹、尻、腕、脚などを打つこともある。 
管楽器は、人間の気息によって発音される楽器の総称で、打楽器に次いで構想されたと思われている。管でないものもあるので、楽器学では空気楽器とか気鳴楽器といわれている。 つまり、口笛や、こぶしを吹くような動作が、たまたま芦や竹の茎や動物のつの、ほら貝を吹くようになった。そして即興的に興奮にまたは合図に用いられたのが発端であるといわれている。　 
管楽器は芦や竹がその材料であることから、竹の特産である東アジア、東南アジア、芦の名産地である西南アジア、地中海東部がこれらの楽器を育ててきたということができる。
打楽器や管楽器は、合図用から発展したものであるが、弦楽器は、明らかに一層後期に、しかも意図のもとに作られたものである。狩りの弓はその起源であるにしても、あるときは武力の優勢を誇るために、弓の弦を一勢に鳴らして、相手側を圧迫しようとしたことがあったと思われる。