Schwarz ble først involvert med A-landslagstroppen da landslagstrener Olle Nordin flyttet ham opp fra U21-landslaget foran en viktig VM-kvalifiseringskamp mot 6. september 1989. Fem måneder senere scoret han i sin A-landslagsdebut trøstemålet i en vennskapskamp Sverige tapte 1-2 for . I VM-sluttspillet i 1990 spilte han alle Sveriges tre kamper på venstreback i et mesterskap svenskene ikke maktet ta seg videre fra det innledende gruppespillet.