Baia Mare er først nevnt i skriftlige dokumenter utstedt av Karl I av Ungarn i 1328 under navnet Rivulus Dominarum. Senere, i 1347, er byen presentert i dokumenter fra Louis I av Ungarn som en viktig middelalderby med en velstående gruveindustri. Måten byen var organisert på var karakteristisk for de frie byene på den tiden. I 1411 ble byen og dens omkringliggende områder, inkludert gruvene, overført til Hunyadis familie av Sigismund, konge av Ungarn, som anerkjente Janos Hunyadis bidrag til å stoppe den tyrkiske invasjonen av Europa. Byen gikk inn i en periode med velstand, da også St. Stefan-katedralen ble bygd. I dag er tårnet på katedralen ett av de mest kjente av byens historiske landemerker. Den første skolen, Schola Rivulina, ble åpnet i Baia Mare i 1547 av den reformerte kirke etter den protestantiske reformasjonen.