어린 시절부터 축구를 시작한 그는 명지대학교 축구부에서 활동했으며, 2000년에 일본으로 건너가 교토 퍼플 상가에서 활동하면서 프로 선수 경력을 시작했다. 그 후 2003년에 대한민국 국가대표팀 감독을 맡았던 거스 히딩크가 네덜란드로 돌아와 감독을 맡은 팀인 네덜란드의 PSV 에인트호번에 입단하여 유럽 리그로 진출을 했다. PSV가 2004-05년 UEFA 챔피언스리그 준결승에 진출한 후 맨체스터 유나이티드 FC의 감독 알렉스 퍼거슨에게 인정을 받으며 2005년 7월에 맨체스터 유나이티드와 계약을 맺었다. 그는 프리미어리그에서 4번 우승했으며, 2007-08년 UEFA 챔피언스리그, 2008년 FIFA 클럽 월드컵에서 우승하는 데에 기여하였다. 이후 주전 출전 횟수가 감소하자 2012년 7월 퀸스 파크 레인저스 FC로 이적했다. 그러나 이적 시즌에 자신의 부상과 소속팀의 강등으로 인해 2013-14 시즌에 임대 형식으로 PSV 에인트호번에 합류했다. 이후 2014년에 PSV에서의 활동을 마지막으로 현역에서 은퇴했다.