フランク王国の分裂とその衰退は、各地の有力な人々が地域で立ち上がることを可能にした。その中の一人にジークフロイト伯爵の名前が残っている。しかし、ジークフロイトは伯爵ながらも収める地域も小さく、土地も分散していた。彼は神聖ローマ皇帝とトリーア司教の間で立場を入れ替えながら活動していたが、彼とその子孫は領土の拡大を狙っていた。ルクセンブルクの名前は963年にジークフロイト伯爵とトリーアの聖マクシミン修道院との間で交わされた契約書により初めて現れることとなる。この契約は土地の交換に関するもので、ジークフロイトの所有地（約15ヘクタール）と聖マクシミン修道院の所有する土地を交換するものであったが、この地域は現在のルクセンブルク市中心部を形成することとなった。ジークフロイト伯爵の親であるウィゲリック (en) ・クネゴンデ夫妻は大アルデンヌ家の始祖であり、後にヴェルダン、バル、ルクセンブルク家の3家を出すこととなる。このジークフロイト伯爵は「アルデンヌ伯」を名乗り、「ルクセンブルク伯」を名乗ることはなく、孫のジゼルベール (en) が「ルクセンブルク城伯」を、さらに曾孫コンラッド1世が初めて「ルクセンブルク伯爵」と名乗ったことにより、事実上のルクセンブルクが形成されることとなった。ただし、現在ではジークフロイトが国の創設者であり、963年の契約書により、ルクセンブルクが形成されたと位置づけがなされている。さらにジークフロイトは娘のクネゴンデをバイエルン公ハインリヒ4世に嫁がせたが、ハインリヒ4世がハインリヒ2世として神聖ローマ皇帝に即位するとジークフロイトの息子で後を継いだルクセンブルク伯アンリ（ハインリヒ）1世がバイエルン公領を託され、その権力の拡大を図ったが、トリーア司祭を手中に収めようとしたことがハインリヒ2世に見咎められ、アンリ1世はバイエルン公領を失うこととなった。その後、アンリ1世の後を継いだアンリ（ハインリヒ）2世が再びバイエルン公爵の地位を得たが、アンリ2世は早世したため、その併合は成功しなかった。その後もルクセンブルク伯らは領土拡大を図っていたが、周辺には司教区が存在しており、その領域拡大は成功しなかった。しかし、8代目のコンラッド（コンラート）2世が死去したことにより男系が途絶えることとなったが、皇帝ロタール2世の命令により、ルクセンブルク伯領はナミュール伯家のアンリ（ハインリヒ）4世盲目伯が継承、ここにルクセンブルク・ナミュール家が成立した。さらにアンリ4世は実家の父親が死去したことによりナミュール伯爵領を1139年に継承、さらに1153年にはラ・ロッシュ (en) 、デュルビュイの伯爵領（現在はベルギー領）も受け継いだ。しかしアンリ4世には結局、男子が生まれることなく晩年に娘エルムシンド (en) が生まれたのみであった。老齢のアンリ4世はこの領土を受け継がせるために、当時1歳であったエルムシンドをシャンパーニュ伯アンリ2世やバル伯ティボー1世 (en) らと婚約させた。1199年、ディナン条約によりナミュールを失うこととなったが、ティボーと結婚したエルムシンドはルクセンブルク、ラ・ロッシュ、デュルビュイの各地方の確保には成功した。さらに1214年、ティボーが死去したことにより、エルムシンドはリンブルフ公爵家の跡継ぎヴァレラン (en) と再婚、アルロンの侯爵領を得ることとなった。その後、1226年にヴァレランが死去したことにより、エルムシンドは女伯爵となった。この時代、それまで神聖ローマ帝国の影響下にあったルクセンブルク伯らは皇帝と距離を置き始め、フランスの影響を受けることとなり、フランスから当主の妻を迎え、さらに公用語もフランス語に置き換えられた。そしてフランス国内の諸侯が中央集権に従順であったのに対し、ルクセンブルク伯は独立性を高めていた。さらにこの時代に伯爵家の紋章が確定したが、この紋章には銀（白）、紺碧（青）の10本の横縞、火を吐くライオン（赤）が描かれ、この3色は現在のルクセンブルクの国旗に使用されることとなる。エルムシンドの息子アンリ（ハインリヒ）5世金髪伯は領土の形を整え、後にルクセンブルク領となるフィアンデン伯を自らの傘下に収めることに成功した。なお、このときルクセンブルク伯家は再度男系が途絶えたため、この時代以降ヴァレランの出身であるリンブルク家にちなみルクセンブルク・リンブルク家と称されることとなる。アンリ5世の息子アンリ（ハインリヒ）6世はリンブルク公家の継承問題に介入、ブラバント公爵と対決するまでに至ったが、1288年、ウォリンゲンの戦い (en) で敗死、領土拡大の野望は一旦、途絶えた。本家のアルデンヌ家とバール、ヴェルダン両分家は没落していったが、ルクセンブルクは徐々にその勢力を拡大し、神聖ローマ皇帝にアンリ（ハインリヒ）7世が選出されることとなった。ハインリヒ7世は即位後、領土の拡大を狙って息子ジャン（ヨハン）とボヘミア王ヴァーツラフ3世の妹エリシュカの間で婚約を結ばせたが、ヴァーツラフ3世の死後に王位継承を巡る争いが起こった際、ジャンとエリシュカを結婚させて軍勢をボヘミアへ派遣し、ジャンをボヘミア王位に就けた。ハインリヒ7世が皇帝に選出されたことにより、それまでフランス寄りであったルクセンブルクはドイツに引き寄せられることとなった。ハインリヒ7世の死後、その息子ジャンは若年であり、かつルクセンブルク伯の勢力が強力すぎるという理由から皇帝に選出されなかったが、バイエルン公ルートヴィヒを支援して皇帝に即位させた。ジャンは勢力拡大のためにリトアニアからイタリアまで駆け巡り、子供たちをそのために利用した。ボヘミアの統治は暗礁に乗り上げていたが、ルクセンブルクでは成功を収め、1340年に開設された定期商業市は現在も続いている。ジャンはフランス王家との関係を深めており、後のフランス王シャルル4世美貌王へ妹のマリーを、ジャン2世善良王へ娘ボンヌを嫁がせることに成功、さらに再婚相手にもブルボン公ルイ1世の娘ベアトリスを選んだ。ジャンはルクセンブルク家によく見られた視力衰弱の結果、視力を失うこととなったが、百年戦争が勃発するとフランス王フィリップ6世の元へ駆けつけた。息子シャルルがカール4世として神聖ローマ皇帝に選出された1346年、クレシーの戦いで戦死したが、ジャンはその功績でルクセンブルクにおける歴史上、最も輝かしい英雄として語り継がれることとなる。カール4世は即位の後、帝国統治の資金を得るためにルクセンブルク伯領を、買い戻せるという権利をつけた上で売り払ったが、これは父ジャンの遺言、異母弟ヴェンセラス（ヴェンツェル）1世へ譲るということを無視するものであった。しかし1353年、ヴェンセラス1世にルクセンブルク領を譲ると、さらに翌年には伯爵位から公爵位へ昇格させることにより、その地位を強化した。ヴェンセラス1世はジャンの時代に併合していたシニー伯領の残り半分を併呑、この領域は「ルクセンブルク公爵領」の名前で総称されることとなった。そしてヴェンセラス1世はブラバント公家の跡継ぎであったジャンヌと結婚していたため、1355年にはブラバント公領をも受け継がれたが、ヴェンセラス1世とその妻ジャンヌらが子供を残さずに死去するとブラバント公領は失われることとなった。ただし、ヴェンセラス1世がブラバント公爵を受け継いだとき、ブラバントの人々の権利や習慣を尊重するとして「ブラバントへの歓喜の入国」の誓約を結び、ブラバントの人々から歓迎されている。ヴェンセラス1世の死後、カール4世の息子で神聖ローマ皇帝でもあったヴェンツェル（ヴェンセラス）2世が後を継いだが、ヴェンツェル2世は凡庸でなおかつルクセンブルクを資金を得るための道具として扱ったため、現在のルクセンブルクでの評価は著しく厳しいものとなっている。ヴェンツェル2世は2度しかルクセンブルクを訪れておらず、さらに1388年、資金を必要としていた彼は従兄のモラヴィア辺境伯ジョス（ヨープスト）へ抵当としてルクセンブルク公国を譲った。そのため、1388年から1461年までをルクセンブルクでは「抵当物件時代」と呼ぶ。1388年、抵当とされたルクセンブルク領は転売の連続であった。ジョス、オルレアン公ルイ、ブラバント公アントワーヌ、アントワーヌの妻で一族のエリーザベト・フォン・ゲルリッツへとそれぞれ転売され、最終的に1441年ヘズディン協定により、ブルゴーニュのフィリップ善良公の手に渡った。フィリップにとってルクセンブルクは各地に散らばる領土を接続する重要な土地であり、これらの領土を纏め上げ勢力を拡大してフランス、ドイツの間で新勢力を形成しようとしていた。しかし、ルクセンブルク自体の所有主権者であるエリーザベトの夫アルブレヒトが死去したことにより、アルブレヒト2世の婿でザクセン選帝侯家のテューリンゲン方伯ヴィルヘルム3世が、アルブレヒト2世の死後に生まれたラディスラウスが主権者であると主張し、国内はザクセン派、ブルゴーニュ派に分かれて争うこととなった。首都ルクセンブルク市はザクセン派に就いたが、1443年に善良公はルクセンブルクを占領した。しかし形式上、ヴィルヘルムがその権利を放棄した1461年まで、善良公がルクセンブルク公爵と認められることはなかった。一旦途絶えたルクセンブルク家は、アンリ5世の時代に次男ヴァレランがリニー（ムース）の領地を受け継ぎ、分家のリュクサンブール＝リニー家を立てており、これは名称を変えつつも長く受け継がれることとなる。