På klubbnivå startet og avsluttet Herlovsen sin karriere i Fredrikstad, og hadde også et sju år langt proffopphold i den tyske klubben Borussia Mönchengladbach. Han deltok også for Norge i OL-sluttspillet i 1984.