La mise au point des premières fusées est directement liée à la découverte de la poudre noire, mélange de charbon, de salpêtre et de soufre à fort pouvoir explosif. Cette découverte attribuée par la plupart des historiens aux chinois remonte peut-être au mais aucun document écrit ne l'atteste. Le premier usage documenté de fusées porte sur une bataille qui s'est déroulée en 1232 : durant le siège de Kaifeng par les Mongols, les Chinois repoussent leurs ennemis à l'aide de « flèches de feu volantes ». Les fusées utilisées à l'époque, bien que n'étant pas très destructrices par elles-mêmes, permettaient de désorganiser l'armée adverse en provoquant la panique de ses chevaux. Cette innovation se diffuse rapidement. Après la bataille de Kaifeng, les Mongols produisent leurs propres fusées et cette connaissance se diffuse rapidement auprès des peuples qu'ils attaquent : japonais, coréens, indiens. En Angleterre, le moine anglais Roger Bacon donne la formule de la poudre noire dans un ouvrage qui date sans doute des années 1240. Les arabes auraient eu connaissance des fusées après la prise de Bagdad par les mongols en 1258. Le manuscrit arabe "Kitâb al-furussia wal munassab al-harbiya" rédigé sans doute entre 1285 et 1295 mentionne ce type d'arme. Entre les , on relève des mentions éparses de fusées dans plusieurs ouvrages mentionnant leur utilisation de fusées lors de combats. Il se peut qu'elles aient été utilisées par les Arabes lors des septièmes croisades, contre les troupes du roi Saint Louis. Ces fusées comportaient une charge utile explosive sous la forme d'un sac de poudre. La première utilisation en Europe dans un combat significatif se déroule dans le cadre d'un conflit entre Venise et Gênes au cours de laquelle une tour de la ville de Chiogga est bombardée par des fusées.