Faren Amund Bugge var losoldermann. Peter tok eksamen i 1825, arbeidet hos advokat Lasson og ved Stortinget inntil han i 1831 ble fullmektig for sorenskriveren i Østerdalen. Fra 1843 var han i Hedmark, og utviklet en advokatpraksis i Elverum. I Elverum eide han gården Helset fra 1845 til han i 1860 solgte den til staten til bruk som fogdebolig.