野外で演奏されることが多く、大きな音量を必要とするため歴史的に管楽器群と打楽器群から成る吹奏楽の編成が採られることが多い。概ね第一次世界大戦以降は戦闘ドクトリンの進化や無線通信の普及によって、ビューグル（喇叭）とともに戦場での音楽による情報伝達任務は廃れたものの、パレード（観兵式・閲兵式・観閲式）や栄誉礼などの式典や行事における演奏任務、将兵の慰安や士気昂揚のための音楽演奏（軍歌・軍楽や行進曲を主体にジャンルは多彩にわたる）では今なお現役である。なお軍隊内にジャズ・バンドやロック・バンド、合唱団が置かれることもある。
日本軍.
陸軍.
「抜刀隊」・「扶桑歌」・「陸軍分列行進曲（分列行進曲・観兵式分列行進曲）」を作曲したシャルル・ルルーがフランス人であり、また帝国陸軍は一貫してフランス軍とドイツ軍に倣っていた事もあり、初期の主要軍楽隊員はフランス・ドイツに留学する事が慣習であった。技量優秀な者は東京音楽学校に特修生として派遣され、より高度な教育を受けることが出来た。後に中止されるものの、吹奏楽のみならず弦楽器に関する教育も行われており、ワーグナーやシューベルトの交響曲などもレパートリーとしていた。陸軍の軍楽隊という性格から戸山学校では乗馬しての馬上演奏の教育もされていた。太平洋戦争中は陸軍戸山学校などから隊員を捻出したり、各軍楽隊を統合するなどし、関東軍・支那派遣軍・南方軍といった総軍に軍楽隊を増設している。
出身者で「戸楽会（とがくかい）」が結成されている。
海軍.
海軍では鎮守府に軍楽隊を置くことが決められており、横須賀海兵団軍楽隊から隊員を派遣する形をとっていた。またこれとは別に、横須賀海兵団東京分遣隊が海軍軍楽隊の総本山であった。軍縮時代には舞鶴鎮守府が一旦閉鎖となり、軍楽隊も引き上げられたが、再度鎮守府が置かれた際に再び設置されている。練習艦隊や行事等で海外に派遣される軍艦には、選抜された隊員で組織された軍楽隊が乗り組み、諸外国を歴訪した。技量優秀な者は東京音楽学校に特修生として派遣され、より高度な教育を受けることが出来た。海軍においても吹奏楽のみならず、弦楽器に関する教育も行われ太平洋戦争敗戦まで教育が続けられ、ベートーヴェンの交響曲などもレパートリーにしていた。
出身者で「楽水会（がくすいかい）」が結成されている。
終戦時の主な軍楽隊.
陸軍.