En 1977, Karl Fleschen remporte le titre du 3 000 mètres des Championnats d'Europe en salle de Saint-Sébastien, en Espagne, en 7 min 57 s 7, devant le Finlandais Pekka Päivärinta et le Suisse Markus Ryffel. Il décroche un nouveau titre continental en 1980 à l'occasion des Championnats d'Europe en salle de Sindelfingen en s'imposant sur la même distance en 7 min 57 s 5, devant le Néerlandais Klaas Lok et l'autre Allemand de l'Ouest Hans-Jürgen Orthmann. Il remporte une nouvelle médaille, en bronze, lors de l'édition 1984.