カールの生涯の大半は征服行で占められていた。46年間の治世のあいだに53回もの軍事遠征をおこなっている。父ピピン3世の死後、イタリアのランゴバルド王国の王デシデリウスは王女をカールの妃としてフランク王国からの脅威を取り除き、ローマ教会への影響力を強めて勢力挽回を図ろうとした。770年、カールは王女と結婚したが、デシデリウスがローマへの攻撃を開始し、773年にローマ教皇ハドリアヌス1世がカールに援軍を要請するに至って、カールは義父デシデリウスと対決することに方針を定め、妃を追い返してアルプス山脈を越えイタリアに攻め込んだ（ランゴバルド戦役（de:Langobardenfeldzug））。翌774年にはランゴバルドの首都パヴィアを占領し、デシデリウスを捕虜として「鉄の王冠」を奪い、ポー川流域一帯の旧領を握ると、自らランゴバルド王となってローマ教皇領の保護者となった。さらに父の例にならって中部イタリアの地（以前のラヴェンナ総督府（en:Exarchate of Ravenna）領）を教皇に寄進した。またカールは征服したランゴバルド領の各地にフランク系の貴族を伯として大量に送り込み、新領土の統治体制を固めた。これらの新領主は、やがてイタリアに土着し後世のイタリア貴族の多くの起源となった。772年には、ドイツ北部にいたゲルマン人の一派ザクセン族を服属させようとし、ザクセン戦争を開始した。このザクセン戦争はカールが優勢のうちに進められたものの、ザクセン族は頑強に抵抗し、遠征は10回以上にも及んだ。785年には有力な指導者ヴィドゥキントを降伏させたものの抵抗は続き、結局完全にこれを服属させたのは戦争開始から32年後の804年のことであった。カールは戦後、抵抗する指導者を死刑や追放に処し、ザクセン族を帝国内に分散移住させ、代わりに征服地にフランク人を移住させるなどの方法で反抗をおさえた。これによって現在のエルベ川からエムス川にかけての広大な地域がフランク王国に服属することとなった。さらにその東に居住するスラヴ人たちもその多くが服属した。一方、ザクセンの征服によってその北に居住するデーン人との軍事的緊張が高まったが、カールの存命中は膠着状態が続いた。778年、カールは後ウマイヤ朝に圧迫されたイベリア半島北部のムスリム勢力の救援依頼をイベリアへの勢力拡大の好機とみなしイベリア北部に遠征した。サラゴサのムスリム勢力を制圧して人質を出させたことで目的を達したと考えたカールは撤退をはじめた。その途上、ピレネー山脈越えに差し掛かった時、バスク人の襲撃を受けて大損害を受け、多数の兵士と将軍を失った（ロンスヴォーの戦い）。この戦いを題材にしたのが後に神話化され語り継がれた『ローランの歌』である。795年にはピレネー南麓にスペイン辺境領をおいた。またこのとき、スペインの後背地にあたり地元勢力の強かったアキテーヌをフランク人による直接支配の下に置くことを試み、息子のルートヴィヒ1世（ルイ1世）を王としたアキテーヌ王国を創設した。ほぼ同時代史料である『ルイ敬虔帝伝』によれば、カールはアキテーヌの完全掌握を目指してアキテーヌ全土の伯、修道院長の多くをフランク人から任命したという。801年にはフランク王国の支配地はバルセロナまで広がった（バルセロナ伯）。北のフリース族とも戦い、西ではブルターニュを鎮圧して、東方ではドナウ川上流で半独立勢力となっていたバイエルン族を攻めて788年には大公タシロ3世を追いこれを征服するとともに、791年にはドナウ川中流のスラヴ人やパンノニア平原にいたアヴァールを討伐してアヴァール辺境領をおき、792年にはウィーンにペーター教会を建設している。アヴァールは、中央アジアに住んでいたアジア系遊牧民族でモンゴル系もしくはテュルク系ではないかと推定される。6世紀以降、東ローマ帝国やフランク王国をはじめとするヨーロッパ各地に侵入し、カール遠征後はマジャール人やスラヴ人に同化していったと考えられる。このときはアヴァール領の西部を制圧しただけであったが、カールは再度のアヴァール侵攻を計画し、その一環として793年にはドナウ川とライン川をつなぐ運河を計画した。796年に再度侵攻した際にはアヴァールの宮殿にまで到達して大規模な略奪を行い、これによってアヴァールは致命的な大打撃を受けて以後は衰退するばかりとなった。またこの勝利に伴い、フランク王国は東に大きく領土を広げ、パンノニア平原の中央部付近までを服属させた。結果としてカールの王国は現在のフランス、ベルギー、オランダ、ルクセンブルク、スイス、オーストリア、スロヴェニア、モナコ、サンマリノ、バチカン市国の全土と、ドイツ、スペイン、イタリア、チェコ、スロヴァキア、ハンガリー、クロアチアの各一部に広がった。このことによって、イギリス、アイルランド、イベリア半島、イタリア南端部をのぞく西ヨーロッパ世界の政治的統一を達成し、イングランド、デンマーク、スカンジナビア半島をのぞく全ゲルマン民族を支配してフランク王国は最盛期を迎えた。カールは、ゲルマン民族の大移動以来、混乱した西ヨーロッパ世界に安定をもたらしたのである。カールは征服した各地に教会や修道院を建て、その付属の学校では古代ローマの学問やラテン語が研究された。また、フランク王国内の教会ではローマ式の典礼を採用し、重要な官職には聖職者をつけ、十分の一税の納入を徹底させた。さらに住民をキリスト教のアタナシウス派（カトリック教会）に改宗させてフランク化もおこなった。メロヴィング朝はもともと、広い領土を支配するために全国を伯領に分け、それぞれの伯領に「伯」（Comes、Graf）という長官を配置し、地元有力者を任命して軍事指揮権と行政権・司法権を与えていた。カロリング家はカール・マルテルの時代から各地の伯に自らの忠実な家臣を送り込む努力を続けていたが、カールの時代にはこれがさらに大規模化・徹底され、各地の伯にはカールの忠実な家臣が送り込まれた。こうして伯は地方有力者が就く職からカールの地方官僚としての性格が強くなった。また、これによって地方の独自性が薄れ、制度の平準化と地域間の人材交流が促された。こうした伯などの家臣たちは、カロリング朝の崩壊後も世襲的に勢力を蓄え、中世貴族や王族として権勢をふるうようになるものたちも多くいた。荘園経営の指針として荘園令を出したといわれる。さらに、伯の地方行政を監査するため、定期的に巡察使（ミッシ・ドミニ）を派遣するなど、フランク王国の中央集権化を試みている。しかし征服されたとはいえ、ザクセン、バイエルンなどゲルマン諸部族には慣習的な部族法があり、カールのしばしば発した勅令にもかかわらず、王国の分権的傾向、社会の封建化の進行を完全に抑えることができなかった。カールの宮廷そのものが、1箇所に留まらずに常に国内を移動していた。主な宮廷は794年にアーヘンに築かれていたものの、アーヘンのほかインゲルハイムやネイメーヘンなどにも宮廷を築いた。それは、絶えず領内を移動して、王のカリスマ性を示し伯の忠誠心を保つため伯との接触を確保する必要があったからであり、また、道路の整備も不充分で、各地から食糧などの生活物資を宮廷まで運ぶ輸送手段がなかったためでもあった。父と共に遠征した南西フランスのアクイタニアでは土着貴族の勢力が強かったため、息子ルートヴィヒをその地の伝統にしたがって育て、まずはアクイタニアの王としたことにもカールが集権化に苦慮したことがあらわれている。他に道路を改修して交易を保護したり、銀を通貨とする貨幣制度を定めるなどの施策をおこなった。外交面では、東方の大国であるアッバース朝とは数度の使節を交換し、友好関係を保っている。