카를은 치세의 많은 부분을 프랑스와의 싸움에 열중하였으며 특히 이탈리아 반도를 놓고 두 나라가 부딪히면서 나중에 전 이탈리아 국토를 전쟁으로 몰고 가게 되었다(이탈리아 전쟁). 카를의 강력한 상대인 프랑스의 프랑수아 1세와의 첫 번째 전쟁은 1521년에 시작되었다. 카를은 잉글랜드와 교황 레오 10세와 연합하여 프랑스와 베네치아에 대항하였으며, 1525년 파비아 전투에서 프랑스군을 밀라노에서 내쫓아 패배시키고 프랑수아를 사로잡는 데 성공하였다. 프랑스 왕은 자신의 자유를 되찾고자 굴욕적인 마드리드 조약을 체결하면서 부르고뉴를 카를에게 양도할 것을 강요당했다.