1990 yılında 19 yaşındayken Marconi Stallions FC takımında profesyonel olan Schwarzer, sırasıyla Dynamo Dresden ve 1. FC Kaiserslautern takımlarında oynadı. Şubat 1997 tarihinde ise Middlesbrough FC'a transfer oldu. Schwarzer, Middlesbrough forması altındaki ilk maçına EFL Cup yarı final maçında Stockport County karşısında çıktı. Middlesbrough ile 2004 yılında EFL Cup şampiyonluğu yaşadı ve 2006 yılında ise UEFA Kupası'nda final yaşadı. 29 Aralık 2007 tarihinde Portsmouth FC karşısında Premier League'de 316. maçına çıktı ve Hollandalı efsane futbolcu Dennis Bergkamp'ın 315 maçlık rekorunu kırdı. Schwarzer, Middlesbrough takımıyla sözleşme yenilemeyince 21 Mayıs 2008 tarihinde Fulham FC ile 2 yıllık sözleşme imzaladı ve 11 yıldır oynadığı takım olan Middlesbrough'dan ayrıldı. Schwarzer, Fulham forması altındaki ilk maçına 2-1 kaybettikleri maçta Hull City karşısında forma giydi. 2010 yılında UEFA Avrupa Ligi'nde (eski adıyla UEFA Kupası) ikinci kez final yaşadı ama takımı İspanyol takım Atlético Madrid'e karşı uzatmalarda 2-1 kaybetti ve ikinci oldu. Ağustos 2010 tarihinde Arsenal FC'ın teknik direktörü Arsène Wenger, Fulham'a; Schwarzer'ı almak için 2 milyon £ teklif etti ve Manuel Almunia ile Lukasz Fabianski'nin ardından 3. kaleci olacağını söyledi ama Schwarzer bu teklifi reddetti.