Byen ligger i fjellkjeden Cserhát, omgitt av store skogsområder. Salgótarjáns historie strekker seg tilbake til middelalderen, men det var ikke før det åpnet kullgruver i nærheten på midten av 1800-tallet at byen vokste i størrelse. Salgótarján fikk bystatus i 1922. Kullgruvene har senere blitt stengt, og er nå omgjort til museum.