Johan Helmich Romans far var musiker ved det svenske hoffkapellet og gav sønnen den første musikkundervisningen. I 1711 ble også sønnen med i orkesteret. Kong Karl den tolvte sendte Roman på et studieopphold til London. Her var han fra 1715 til 1721, og var elev av Johann Christoph Pepusch og Attilio Ariosti. Han var samtidig ansatt hos hertugen av Newcastle og kom hos ham i kontakt med betydelige musikere som Georg Friedrich Händel, Francesco Geminiani, Giovanni Battista Bononcini og andre. Etter at Roman vendte tilbake til Sverige i 1721, ble han visekapellmester og i 1727 kapellmester ved hoffkapellet.