飯田は戦国時代、武田家の家臣・秋山虎繁、徳川家の家臣・菅沼定利、毛利秀頼（斯波氏の一族）が治めていた。文禄2年（1593年）に秀頼が死去すると、その娘婿であった京極高知が跡を継いだ。慶長5年（1600年）の関ヶ原の戦いで高知は東軍に与して本戦で戦功を挙げたことにより、丹後宮津藩へ加増移封された。代わって慶長6年（1601年）、下総古河藩から小笠原秀政が5万石で入るが、慶長18年（1613年）に信濃松本藩へ移封され、飯田藩は廃藩となり、幕府領とされた。元和3年（1617年）、伊予大洲藩より脇坂安元（脇坂安治の子）が5万5000石で入る。安元の跡は脇坂安政が継いだが、叔父の脇坂安総に2000石分知し、寛文12年（1672年）に播磨龍野藩へ移封され、代わって堀親昌が下野烏山藩から2万石で入部した。しかし堀氏の藩政は財政窮乏により早くから不安定であり、藩財政は御用達から借り上げることによって賄われるという「御定借」体制であった。このため、宝暦12年（1762年）には藩政改革反対一揆、文化6年（1809年）にも同様の騒動が起きている。第10代藩主・堀親寚は水野忠邦の天保の改革で幕閣の一人となり、奏者番・寺社奉行・若年寄・老中などを歴任して7000石を加増されたが、水野失脚に伴い7000石は収公の上、本高3000石も減封され、その分は陸奥白河藩領に加えられた。また幕末期には、常陸水戸藩の武田耕雲斎の天狗党に対して何の対処もとらず、清内路関所の通行阻止も懈怠したため、幕府から2000石を減封され、その分は旗本・千村平右衛門の預地に加えられた。第11代藩主・親義は、京都見廻役をつとめている。戊辰戦争では新政府に恭順した。明治4年7月、廃藩置県により廃藩となって飯田県、同年11月には筑摩県、明治9年（1876年）8月には長野県に編入された。
2013年3月場所で初土俵を踏むと、この場所に取った前相撲は二番出世だった。師匠の貴乃花からは突っ張る相撲を指導されて順調に番付を上がっていった。三段目3場所目の2014年7月場所では、11日目の6番目で元学生横綱で入門以来負けなしの正代と対戦し、正代にプロ初黒星を付けて周囲を驚かせた。この白星で自身は無傷の6連勝となったが、13日目の7番目で芝に土俵際の巻き替えから寄り切りで敗れて全勝はならなかった。2015年3月場所では、初土俵から2年の速さで兄と同時に新幕下に昇進したが、これについては「時間がかかりすぎた」と、悔しさを露わにしている。その新幕下の場所は緊張もあって白星が遠く、壁に跳ね返されて3勝4敗と負け越して1場所で三段目へ転落した。その後はスランプ状態となってしまい、幕下では勝ち越せない時期が1年ほど続いたが、3度目の幕下昇進となった2016年1月場所では6勝1敗の好成績を挙げて幕下の優勝決定戦に進出し、これ以降の貴源治は幕下の地位に定着した。幕下に定着した貴源治に対し、日本相撲協会の業務では巡業部長を務めている師匠の貴乃花は、巡業にて初切を兄の貴公俊と共に務めることを命じた。同じく初切の担当である篠原と高三郷の指導を受けて2016年の夏巡業で初切デビューを果たした。双子のコンビで務めるのは異例の事であり、初切では一卵性双生児ならではの「顔が似すぎて分からない」などのネタが取り入れられている。番付のほうも上昇し、同年11月場所では初めて、成績次第では関取昇進の可能性が出てくる幕下15枚目以内に入った。東幕下7枚目で迎えたこの場所は14日目の7番目で元関脇の豊ノ島を一方的に押し出す相撲もあり、最終的に5勝2敗の勝ち越しで終わった。2017年3月場所は、関取目前の西幕下筆頭の地位で迎えた。初日の1番相撲では対戦相手の豊ノ島が休場したことで不戦勝となり、2日目の2番相撲では十両の照強を突き出して、この場所最初の自力勝利。11日目に4勝目を挙げて勝ち越したことで、場所後の番付編成会議にて5月場所での新十両昇進が決定した。10代での関取昇進は、部屋の弟弟子の貴景勝（十両昇進当時の四股名は佐藤）以来であり、栃木県出身の関取は日出ノ国以来14年ぶりの誕生だった。昇進に際して、18歳までの昇進が目標だったため「遅かった」と不満を口にしたが、一方で「十両は1、2場所で抜けたい」と番付を駆け上がる決意を表明した。また、初切経験者が関取り昇進を果たしたのは初めてである。初切については新十両決定直後でまだ幕下力士として参加していた春巡業を最後に役目を終えた。7月場所は十両尻の西14枚目で新十両として迎えた。初日の明生戦に勝利して幸先の良いスタートを切ったが、そこから5連敗。12日目に負け越しが決まった残りも全敗するなど4勝11敗に終わり、十両の壁に跳ね返される結果となった。7月場所は西幕下5枚目で迎え、5勝2敗と再十両が伺える星を上げたが、十両からの陥落者が少なく再十両とはならなかった。9月場所は東幕下筆頭の地位で4勝3敗と勝ち越し、11月場所で十両に復帰した。東十両14枚目となったこの場所は、14日目を終わった時点で7勝7敗の成績であり、千秋楽には幕下力士と事実上の入れ替え戦が組まれたが、勝利して8勝7敗となり、関取として初めての勝ち越しを決めた。その後、2018年の1月場所と3月場所も、千秋楽に8勝目を挙げており、3場所連続で千秋楽に勝ち越しを決める形となっている。9月場所は持ち前のしぶとさが影をひそめる場所であったが、千秋楽に勝ち越しを決めている。2018年10月1日の理事会で、千賀ノ浦部屋（小結・隆三杉）への移籍が承認された。同年12月の貴ノ岩の付き人への暴行事件に対しては師匠の貴乃花が暴力根絶に尽力していただけに「言い訳なし」「これが貴ノ岩関の人生」と失望感を露わにするコメントを残した。2019年5月場所は自身初の十両での中日勝ち越しを記録。直近6場所の最高成績が8勝であるだけに、この見違えるほどの好調はNHK大相撲中継でも触れられ、21代音羽山から期待を寄せられた。9日目終了時点では兄の貴ノ富士と共に全勝をキープしており、報道でも兄弟による同時各段優勝が期待された。14日目の5月25日、大翔丸を寄り切って13勝1敗として十両優勝を決め、前日に幕下優勝を決めた貴ノ富士と双子同場所優勝となった。この成績によって新入幕が決まり、西前頭10枚目として7月場所を迎えたが4勝11敗と負け越した。