Το πραγματικό όμως, με την σύγχρονη έννοια του όρου, πυροβολικό γεννήθηκε με τη χρήση της πυρίτιδας στην εκτόξευση βλημάτων. Τέτοιου είδους όπλα χρησιμοποιήθηκαν πρώτη φορά στην μεσαιωνική Κίνα. Από εκεί, αυτή η τεχνολογία έγινε γνωστή στον μουσουλμανικό κόσμο, και, μέσω αυτού, στην Ευρώπη. Τα πρώτα ευρωπαϊκά κανόνια εμφανίστηκαν στα πεδία της μάχης της δυτικής Ευρώπης τον 13ο ή 14ο αιώνα. Η αρχική τους χρήση ήταν σποραδική, καθώς ο χειρισμός τους ήταν δύσκολος και επικίνδυνος, και η εμβέλεια και η ευστοχία τους μικρή. Ωστόσο, σταδιακά βελτιωνόταν η αποτελεσματικότητά τους, με αποτέλεσμα να χρησιμοποιούνται σε μάχες. Έτσι, τον 15ο αιώνα θεωρούντο σχεδόν απαραίτητα για την πολιορκία οχυρωμένων πόλεων, με γνωστότερο παράδειγμα τα τεράστια κανόνια που χρησιμοποίησαν οι Οθωμανοί κατά την τελική πολιορκία της Κωνσταντινούπολης, το 1453.