Også på scenen fikk publikum oppleve Rolf Just Nilsens sangstemme. Blant annet gjorde han stor suksess med operaparodien , en revyvise med tekst av Arild Feldborg, der Just Nilsen fremfører en norsk versjon av fra operaen . I 1963 fikk han hovedrollen som «Lillemann» i musikalen på Edderkoppen teater, der blant annet fremføringen av sangen viste at hans talent også rommet det såre og dypt alvorlige.