Kirsten, tarihte iki farklı millî takım için oynayıp toplamda 100 maça çıkan ilk futbolcudur. Birleşme öncesi 1985-1990 arası Doğu Almanya ile çıktığı 49 maçta 14 gol atan Kirsten, Almanya millî takımıyla da 51 maça çıkmış ve 21 gol atmıştır. 1994 ve 1998 yıllarında iki Dünya Kupası'nda 2000 yılında kariyerinin son zamanlarında bir kez de Avrupa Futbol Şampiyonası'nda görev almıştır.