Hermelin blev 1871 agré vid Konstakademien och var 1876 kommissarie för den svenska konstavdelning vid världsutställningen i Philadelphia. Han anslöt sig till Opponentrörelsen 1885, där flera samtida kända konstnärer deltog, som Carl Larsson och Ernst Josephson. Vid sidan av sin konstnärliga verksamhet sysselsatte han sig med litteratur och antikvariska studier. Han har publicerat en mängd noveller och artiklar om arkeologi i tidningar och tidskrifter. Hermelin är representerad vid bland annat Nationalmuseum i Stockholm, Göteborgs konstmuseum, Örebro läns museum, Vänersborgs museum, Norrköpings konstmuseum och Kalmar konstmuseum.