Jæger debuterte med en filosofisk avhandling om Kants fornuftkritikk, som ble utgitt i 1878 sammen med dikt av hans venn Gunnar Heiberg. Jæger påpekte at Kants filosofi fører til praktisk idealisme. I Studentersamfundet erklærte han seg som tilhenger av determinisme og forkastet all moral og religion. Han kom med to belærende skuespill, (1883) og (1884). Med sin kompromissløse tese om selvmord eller metafysikk nærmer Jæger seg anarkismen ved århundreskiftet.