カッパドキアという呼称の最初の記録は、紀元前6世紀後半に遡る。そこでは、2人のアケメネス朝初期の王ダレイオス1世とクセルクセス1世について3言語で書かれた碑文に、ペルシア帝国を構成する一地方（古代ペルシア語でdahyu-「州」）として現れている。地方についてのこれらの一覧の中で、古代ペルシア語での名称はKatpatukaであるが、ペルシア固有の言葉でないことは明らかである。エラム語とアッカド語版の碑文も、類似の名称を含んでいる。ヘロドトスは、カッパドキア人という名称はペルシア人（しかるに、彼らはギリシア人によって「シリア人」「白いシリア人」(Leucosyri)と呼ばれた）によって用いられたと伝えている。彼が言及したカッパドキアの部族の一つはw:en:Moschoiであり、彼らはフラウィウス・ヨセフスによると、旧約聖書の人物ヤペテの息子メシェク（Meshech）に結び付けられ、ここにある「マザカ」という都市はメシェクが訛ったものとされた（『ユダヤ古代誌』第I巻vi章の解説より。『ミシュナー』のw:en:Ketubot　13:11も参照。）ペルシア帝国後期の皇帝の支配のもとで、彼らは2つのサトラペイア、すなわち行政区に分割された。中央と内陸の部分を含む一方に対して、ギリシアの地理学者によってカッパドキアの名前が使われ続け、そして他方はポントスと呼ばれた。この分割はクセノフォンの時代以前に既になされていた。ペルシア帝国滅亡後も2つの州は分離され続けたので、両者の区別は恒久化された。カッパドキアは内陸の州（時に大カッパドキアと呼ばれる）に限定され、これのみが本稿の焦点となる。カッパドキア王国はストラボンの時代すなわち紀元前1世紀にはまだ名目上は独立国として存在していた。キリキアはその国全体の首都であるカエサレア・マザカ（現在のカイセリ）が位置する地域に与えられた名前である。ストラボンは、カッパドキアの中で2つの都市のみが名を挙げるにあたいすると考えた。それは　カエサレア（元はマザカとして知られた）とテュアナw:en:Tyanaで、タウルス山脈の麓から遠くない位置にあった。
若い頃より傑出しており、文武両道であったという。310年8月、父の劉聡が帝位に即くと、河内王に封じられ、使持節・撫軍大将軍・都督中外諸軍事に任じられた。だが、叔父の劉乂が皇太弟となったために、劉粲は世継ぎに立てられなかった。10月、征東将軍王弥・龍驤将軍劉曜らと共に4万の兵を率いて晋都洛陽の攻略に向かい、晋の監軍裴邈を澠池で破ると洛川に入った。轘轅を出て梁国、陳留、汝南、潁川一帯を攻め、砦百余りを陥落させた。311年9月、平西将軍趙染と安西将軍劉雅が長安を攻めると、劉粲は劉曜と共に大軍を率いて後詰めとなった。漢軍が下邽に至ると司馬模は降伏し、劉粲のもとへ送られた。劉粲は司馬模と子の范陽王司馬黎を殺害し、衛将軍梁芬・長史魯繇・兼散騎常侍杜驁・辛謐・北宮純らを平陽に送った。劉聡は司馬模を殺害したことを大いに怒ったが、劉粲は「臣は、司馬模が自らの天命を知ることが遅かったために殺したのです。奴は首都洛陽の危機に際して、命を懸けて戦わなかった。これは天下の悪であることから誅したまでです」と返答した。劉聡は「その通りではあるが、我は汝が降伏した者を誅したことで、もはや降伏しても助からないと思われることを恐れているのだ。それに、天道とは神に通じる者であり、我々に天命を理解することなどできぬ」と諭した。その後、劉粲は新豊に駐屯した。10月、雍州刺史麹特は王禿・紀特らを新豊に派遣して劉粲を攻撃すると、劉粲は平陽に帰還した。劉聡の遊猟には節度がなく、朝早く出かけて夜遅く帰るような日が続いた。中軍の王彰が諫めると、劉聡は激怒して処刑しようとしたが、劉粲は劉乂と共に厳しく諫めた。劉聡はまた怒り「朕が夏の桀王、殷の紂王、周の幽王や厲王のような暴君だというのか。汝らはなぜこのような奴のために涙を流すのだ」と言った。大伯父である太宰劉延年を始め諸公卿列侯100人余りが劉聡の前に赴き、みな冠を外して涙を流して諫めると、ようやく劉聡は怒りを収めて王彰を許した。劉聡は「あの発言は酔っての事であり、本心ではない。卿らの諫言がなければ、朕は過失に気がつかなかっただろうな」と言い、全員に帛百匹を下賜した。8月、劉粲は族父の劉曜と兄の劉易らと共に、晋陽の劉琨を攻撃した。劉琨は張喬に防戦させたが、劉粲らはこれを撃破して張喬を斬り殺した。太原郡太守高喬らは晋陽ごと劉粲に降伏した。劉粲らが晋陽に入ると、劉琨は常山に逃走して代王拓跋猗盧へ救援を要請した。劉粲らは晋の尚書盧志、侍中許遐、太子右衛率崔瑋を捕えて平陽に送った。10月、拓跋猗盧は拓跋六脩・拓跋普根らを前鋒として派遣し、拓跋猗盧は20万を統べ後継となり、狼猛に至った。劉粲は彼らの到来を知ると、輜重を焼き攻囲を突破して逃走した。また、劉曜は汾東で大敗を喫して撤退した。劉粲は劉曜と合流すると、夜を待って民衆を引き連れ、蒙山を越えて撤退した。11月、拓跋猗盧は追撃を掛け、藍谷で劉粲を破った。征虜将軍邢延を始め、劉儒・簡令・張平が討死し、鎮北将軍劉豊が捕縛され、参軍盧諶は劉琨に投降した。314年1月、劉粲は丞相・領大将軍・録尚書事に任じられ、晋王に進封されて五郡を封国とした。11月、劉聡は丞相の位を撤廃して相国と統合し、劉粲は相国に任じられて百揆を監督した。