Da Ministerpräsident Persson bei der Reichstagswahl 2006 seine Mehrheit verlor, schied Baylan aus der Regierung aus. Gleichzeitig zog er erstmals in den schwedischen Reichstag ein. Dort war er Mitglied im Schul- und im Transportausschuss sowie in der Kriegsdelegation, die im Kriegsfall an die Stelle des Reichstags treten kann. Bei den folgenden Wahlen in den Jahren 2010 und 2014 verteidigte er sein Reichstagsmandat. 2009 wurde Baylan Generalsekretär der sozialdemokratischen Partei. Nach der verlorenen Reichstagswahl 2010 stand er zusammen mit der Parteivorsitzenden Mona Sahlin innerparteilich in der Kritik. Im März 2011 trat Baylan – kurz nach dem Rücktritt Sahlins – als Generalsekretär zurück.