军衔制度产生于15世纪的欧洲。15世纪以前的世界各国军队中,只有官衔,没有军衔。军衔与官衔的根本区别是把士兵纳入了军队的等级体系,这是一种革命性的进步。最初用军衔代替官衔的变革,发生在15世纪-16世纪的意大利和法国等一些西欧国家。其原因是在这些国家中出现了资本主义萌芽,工商阶级为了发展贸易与国王合作:工商阶级出资支持君主制,国王通过税收所得雇佣国外的军人。雇佣军成了国家的主要军事力量。雇佣军以步兵为主体,其成分大都是自由农民、市民、破产骑士、有产市民的子弟以及出身于其他阶层的普通人。雇佣军的组织以连为基本单位,几个连组成一个团。连的指挥官称作上尉,副手称中尉 ;团由称作上校的军官指挥,助手称为军士长,后来改称少校。随着资本主义的发展,等价交换、平等权利等资本主义的社会原则反映到了军事领域,刺激着军队改变其官职的选拔制度:以出身门第世袭军职的旧传统破产了,建立起按劳绩战功获得军官职位的新制度。但是被选拔上来的非贵族指挥官,由于没有爵位可供标志个人的身份,自己的荣誉、地位和待遇得不到社会的保障。于是,这些军官们强烈要求设立一种与其军职相对应的阶位称号,来保障自己的社会地位。而这种要求也符合新兴资产阶级使用这些阶层的力量来共同反对封建领主的政治利益。这样,终于导致了雇佣军中原先的某些职务名称,逐步转变成为个人的阶位称号,职务则用“连长”、“团长”来命名。从而形成了军队职务与军衔等级相对应的两大体系,出现了包括军官、士兵在内的军队衔级制度。战争规模的扩大,指挥机构中总参谋部的出现,军、师、旅、团、营等建制的形成,使得与其规模相对应的元帅、将、校、尉等军衔等级应运而生。军衔制打破了按出身门第封官晋爵的世袭旧军制,而以战功评价报酬和地位,因此广泛吸引了自由农民、平民等各阶层的人士,成功地替代了原有的军制。在汉语里,军衔一词为中国人民解放军所创造。