Han flyttet fra Holmestrand til Cognac i Frankrike i 1903. Her ble han ansatt i firmaet Renault – St. Louvent. Sammen med Petter Rustad kjøpte han cognachuset Dupuy i 1905. Deres firma, Rustad & Bache-Gabrielsen, eksporterte brandy til Norge, Danmark og Amerika. Rustad døde i 1916 og Bache-Gabrielsen tok over som eneeier. Noen få år etter ble Rustad fjernet fra firmanavnet, og Bache-Gabrielsen er nå Norges eldste cognachus.