クリッテンデンはケンタッキー州ラッセルビルで、アメリカ合衆国上院議員ジョン・J・クリッテンデンの息子として生まれた。クリッテンデン家は軍人一家であり、弟にはトマス・レオニダス・クリッテンデン、従弟にはトマス・ターピン・クリッテンデンがいて、どちらも後に北軍の将軍になった。クリッテンデンは1832年に陸軍士官学校を卒業し、第4アメリカ歩兵連隊の少尉に任官された。1832年のブラック・ホーク戦争に参戦し、翌年に除隊した。その後トランシルバニア大学で学び弁護士になった。1842年にテキサスに移転し、テキサス共和国軍に入隊した。1843年のミーア遠征の時にメキシコ軍の捕虜となり、捕虜交換で釈放された。1846年にアメリカ陸軍に入りなおし、アメリカ騎馬ライフル隊（第3機甲騎兵連隊）と共に米墨戦争に従軍した。1847年のコントレラスの戦いとチュルブスコの戦いでの勇敢さで少佐に名誉昇進し、1848年に正規軍の少佐に恒久的昇進した。しかし、1848年8月19日、陸軍から一時解雇され、1849年3月に復職となった。最終的には1856年に正規軍の恒久的中佐にまで到達した。