Olivier ble olympisk mester i fekting under OL 1908. Han var med på det franske laget som vant lagkonkurransen i kårde. Individuelt kom han på tredjeplass i kårde.