Po Novembri 1989 sa Peter Weiss stal predsedom KSS. Bol jedným z hlavných iniciátorov transformácie KSS na stranu sociálnodemokratickej orientácie s názvom Strana demokratickej ľavice (SDĽ), ktorá od 1. decembra 1990 vystupovala ako KSS-SDĽ a od 26. januára 1991 ako SDĽ. Do roku 1996 bol jej predsedom. Podarilo sa mu SDĽ dostať do parlamentu a na krátke obdobie v roku 1994 aj do vlády. Od roku 1990 bol poslancom Slovenskej národnej rady, pričom v rokoch 1992 až 1994 vykonával funkciu podpredsedu Národnej rady Slovenskej republiky. Po odvolaní Vladimíra Mečiara z funkcie predsedu vlády, sa predsedom vlády stal Jozef Moravčík.