I 1841 ble Rolfsen utnevnt til overrettsprokurator i Akershus stift. Året etter meldte han seg som søker til den ledige universitetsposten etter U. A. Motzfeldt, men trakk deretter søknaden, fordi regjeringen bestemte at vinneren av konkurransen skulle tiltre stillingen som lektor. I 1844 ble han utnevnt til høyesterettsadvokat, og beholdt denne stillingen til sin død.