Jedną z pierwszych inicjatyw nowego papieża, było zaprowadzenie pokoju pomiędzy władcami chrześcijańskimi, w celu zawiązania szerokiej koalicji przeciwko Turkom. Usiłował więc doprowadzić do rozejmu pomiędzy królem Francji, Franciszkiem I, a cesarzem Karolem V. Działanie to było także powodowane troską o Florencję. Początkowo odmówił Karolowi odnowienia sojuszu obronnego, a po podbiciu Mediolanu (1524) przez Franciszka, zawarł sojusz z francuskim królem i z Wenecją (na przełomie 1524 i 1525). Kiedy jednak Francja poniosła klęskę w bitwie pod Pawią, papież ponownie zwrócił się do Karola. Kolejną zmianę politycznego frontu przedstawił Klemens w maju 1526, kiedy to założył z Francją, Mediolanem, Wenecją i Florencją Ligę Świętą przeciw cesarzowi Karolowi V. W konsekwencji, cesarz najechał na Rzym i złupił go 6 maja 1527. Papież został zmuszony do ukrycia się w Zamku św. Anioła, lecz 5 czerwca tegoż roku został wzięty do niewoli. Dzięki obietnicy zapłacenia dużego odszkodowania i innych ustępstwach, papież został uwolniony w grudniu 1527. Ponieważ jednak Rzym został zniszczony, Klemens mieszkał w Orvieto oraz w Viterbo. W tym czasie Karol starał się przekonać papieża do zwołania soboru, w celu przerwania herezji. Pokój pomiędzy nimi został oficjalnie podpisany w czerwcu 1529 i przypieczętowany koronacją Karola na cesarza 24 lutego 1530. Klemens zbliżył się też do króla Franciszka, wydając swoją krewną, Katarzynę Medycejską za mąż za syna króla, Henryka.