Kirsten speelde exact 100 interlandwedstrijden, 49 voor de DDR en 51 voor Duitsland. In totaal maakte hij 34 doelpunten. Hij speelde zijn eerste interlandwedstrijden met het U-19 elftal van de DDR, zijn debuut maakte hij op 19-jarige leeftijd tegen Denemarken. Deze wedstrijd in Kopenhagen, gespeeld op 8 mei 1985, werd met 1-4 verloren. Voor het WK voetbal 1986, het EK voetbal 1988 en het WK voetbal 1990 wist de DDR zich niet te kwalificeren. Daarom speelde de spits pas op latere leeftijd zijn grote toernooien. Op 13 mei 1990 speelde Kirsten zijn laatste interland voor de DDR, de wedstrijd in het Maracanã tegen Brazilië werd met 3-3 gelijk gespeeld.