Profi karrierje után az FC Barcelona B edzője lett. 2008. május 8-án Joan Laporta bejelentette, hogy Guardiola váltja Frank Rijkaardot az első csapat kispadján. A szerződését 2008. június 5-én írta alá. Rögtön első idényében (2008–2009) triplázott csapatával, a Barca megnyerte a bajnokság mellett a kupát is, és 2–0 arányban az álomdöntőn – a Manchester Unitedet megverve – a Bajnokok Ligája trófeát is begyűjtötte. Még ebben az évben (2009) Guardiola és a Barcelona megnyerte az Athletic Bilbao ellen a spanyol-szuperkupát és az UEFA-szuperkupát is a Sahtar Doneck ellen. 2009 decemberében a FIFA-klubvilágbajnokságon is diadalmaskodtak.