Felberg er født i Oslo av mor fra Hønefoss og far, født i Cape Town, fra Storbritannia. Farfaren var av jødisk opprinnelse og oldefaren var Botswanas første justisminister. Felberg har vokst opp på Kringsjå og Ammerud, før han flyttet til Hovseter i en alder av ni. Det var på Hovseter Felberg møtte bandkollegene i WE, som han er vokalist i. Bandets høydepunkt kom i 2005, da de ga ut albumet , og samme år mottok Alarmprisen i kategoriene 'Rock' og 'Beste live-band'.