Huset ble grunnlagt i 1724 av (f. 1695). Han hadde jobbet på faren (Denis) sine vinmarker, så han kunne sitt fag. Mens han jobbet der lærte han også hvordan vin utvikler seg i eiketønner. Vinteren 1709 var svært hard, så de måtte lagre husets eaux-de-vie i tønner. Da oppdaget han hvordan den utviklet seg. Da han overtok familiegården i 1724 kjøpte han noe mer vinmarker, og begynte å utvikle huset fra å være en liten lokal leverandør, til en større aktør i markedet. Han videreutviklet produksjonsteknikken og druetypene, og opparbeidet seg et velrenommert navn. Rémy Martin er det eneste av «De 4 store» som er grunnlagt av en lokal Cognac-innbygger.