Karlsen har tjenestegjort ved Åsegarden, Setermoen og Garnisonen i Sør-Varanger. Han var kullsjef ved Befalsskolen for Infanteriet i Trøndelag. Senere var han spesialstabsoffiser, kontorsjef og avdelingssjef ved Hærstaben.