קלופ בילה את רוב שנותיו ככדורגלן מקצועני בקבוצת מיינץ 05. עם פרישתו ב-2001 הפך למאמן הקבוצה. במהלך תקופתו כמאמן במיינץ, הביא את הקבוצה לעלייה לבונדסליגה לראשונה בתולדותיה. ב-2008 מונה קלופ למאמן בורוסיה דורטמונד, אותה הוביל לזכייה בבונדסליגה ב-2011 וב-2012, זכייה בגביע הגרמני באותה השנה, זכייה בסופר קאפ הגרמני ב-2013 וב-2014 והגיע עמה לגמר ליגת האלופות ב-2013. קלופ זכה בפרס מאמן השנה בגרמניה ב-2011 וב-2012. באוקטובר 2015 הפך למאמן ליברפול, איתה הגיע לגמר גביע הליגה ולגמר הליגה האירופית בעונתו הראשונה. ב-2018 הגיע עמה לגמר ליגת האלופות. ב-2019 העפיל עם ליברפול לגמר בפעם השנייה ברציפות, כאשר הפעם זכתה קבוצתו בתואר.