Fellenberg wuchs als Sohn eines Webermeisters im niederschlesischen Freystadt (heute "Kożuchów") auf. Sein Onkel mütterlicherseits, Stadtmusikus von Freystadt, förderte ihn bereits im Alter von neun Jahren durch Unterricht in Violine und Trompete. Sein erstes Trompetensolo blies er bei einem Konzert in seiner Heimatstadt. Im Alter von 15 Jahren nahm er als Solist mit Kapellen an Gastkonzerten in Berlin und Sankt Petersburg teil. Seinen Militärdienst begann Fellenberg 1866 beim Infanterie-Regiment „Hiller von Gärtringen“ (4. Posensches) Nr. 59 in Glogau. Dort wurde er zum Solo-Flügelhornist befördert. Am &lt;a href="Deutsch-Franz%C3%B6sischer%20Krieg"&gt;Deutsch-Französischen Krieg 1870/71&lt;/a&gt; nahm Fellenberg mit seiner Militärkapelle teil; für seinen Einsatz erhielt er die Kriegsgedenkmünze mit den Gefechtsspangen für die Schlachten von Weißenburg, Wörth, Sedan und Buzenval (Mont Valérien) sowie die Belagerung von Paris. Anschließend war er bis 1877 beim Kürassier-Regiment „von Driesen“ (Westfälisches) Nr. 4 in Münster als Kornettist tätig. In dieser Zeit absolvierte Fellenberg eine dreijährige Ausbildung an der Königlichen Hochschule für Musik in Berlin, aufgrund derer er am 7. August 1877 zum Stabstrompeter beim Ulanen-Regiment „von Katzler“ (Schlesisches) Nr. 2 im oberschlesischen Ratibor ernannt wurde. Nachfolgender Dienstort bis 1888 war Gleiwitz.