Pedersen var bondesønn. I 1889 sendte han et prosjekt til et vanningsanlegg til den danske kongen. Brevet ble videresendt til Den Polytekniske Læreanstalt, der han med kongelig støtte begynte å studere. Han ble uteksaminert som bygningsingeniør i 1897.