Anh bắt đầu sự nghiệp ở Sparta Praha, sau đó chuyển tới Borussia Dortmund năm 2001 với giá 25 triệu Mác, kỷ lục đối với một câu lạc bộ Bundesliga thời điểm đó. Trong mùa giải đầu tiên tại Đức, anh cùng câu lạc bộ vô địch quốc gia và lọt vào Chung kết Cúp UEFA 2002. Rosický gia nhập Arsenal năm 2006, có 247 trận ra sân cho câu lạc bộ, trong đó có trận Chung kết Cúp FA 2014. Anh thi đấu mười mùa giải Giải bóng đá Ngoại hạng Anh, tuy nhiên gặp phải nhiều chấn thương dai dẳng.