I 1886 utga han et forsvar for Hans Jæger i («Fra Kristianiabohêmen og pressefriheden»). Ifølge Halvor Fosli var dette innlegget ødeleggende for Ullelands yrkeskarriere: «Kristiania stengte han rett og slett ute». Han fikk ikke lenger arbeid i private eller offentlige skoler, og heller ingen stilling i statsadministrasjonen. Fosli bemerker at Ulleland egentlig var motstander av Jæger, men skandalen besto i at han hadde villet drøfte Jægers roman offentlig.