Han ble oppdaget av da han spilte guttelandskamp for Sverige i Portugal. Den tyske klubben tilbød Schwarz gratis studier, og å trene og spille på amatørnivå. Leverkusens interesse skapte rabalder da det var første gang en svensk ungdomsspiller ble forsøkt rekruttert av en profesjonell klubb fra utlandet. Malmö aksepterte at Schwarz gikk til Leverkusen på betingelse av at det ikke handlet om en permanent overgang, men kun et utlån. Schwarz tilbragte to år hos Leverkusen, hvor han i 1986 ble tysk ungdomsmester med klubben.