大将军衔最早由苏联红军设置,1940年5月最高苏维埃主席团发布命令,将高级军官军衔改称将官,大将为陆军将官中最高级别,与海军元帅等同。1943年设置了空军、炮兵、装甲兵、工程兵和通信兵元帅后,大将军衔只在诸兵种合成军队中设置,与军兵种元帅属同一级别。第二次世界大战后,东欧一些国家以及朝鲜、越南、古巴、尼加拉瓜、缅甸等国也相继设置大将军衔。1955年到1956年,中国人民解放军第一次实行军衔制期间,也曾设立大将军衔。1955年中国人民解放军首次实行军衔制,此次军衔等级设置是在中国传统军衔等级体系的基础上,参照了前苏联、朝鲜等国的军衔制而设定的,其中将官设置为四级,即:大将、上将、中将、少将。1955年8月27日,中央军委授予粟裕、黄克诚、谭政、肖劲光、王树声、陈赓、罗瑞卿、许光达、徐海东、张云逸10人大将军衔,后被人们称之为“十大大将”。1965年5月22日,中华人民共和国第三届全国人民代表大会常务委员会第九次会议决定取消中国人民解放军军衔制。1988年7月1日,中华人民共和国第七届全国人大常务委员会第二次会议决定恢复军衔制,并通过《中国人民解放军军官军衔条例》。重新实行的军衔制取消了大将军衔,将官设置为:一级上将、上将、中将、少将。1993年又取消了一级上将军衔。