อำเภอเกษตรสมบูรณ์ ในสมัยนั้นเมืองเกษตรสมบูรณ์ ตั้งอยู่ที่บ้านเมืองเก่า (ปัจจุบันอยู่ในเขตอำเภอเกษตรสมบูรณ์)ต่อมามีพลเมืองเพิ่มมากขึ้น เห็นว่าบ้านเมืองเก่าคับแคบและอยู่ห่างลำน้ำพรม จึงได้ย้ายเมืองมาตั้งที่บ้านกุดเงือก (กุดเกวียนที่ตั้งถังน้ำประปาของอำเภอเกษตรสมบูรณ์ปัจจุบัน) คือบ้านยางขณะนี้
ต่อมาพระไกรสิงหนาท (นายฤๅชา) จับช้างเผือกได้หนึ่งเชือก แต่คนในท้องถิ่นขณะนั้นไม่รู้จักช้างเผือกคิดว่าเป็นช้างธรรมดา แต่มีสีประหลาดกว่าช้างทั้งหลาย เขตจับช้างได้นี้เป็นพื้นที่ราบอุดมสมบูรณ์ไปด้วยทุกอย่าง มีบึงหนองมากพอสมควร ต่อมาประชาชนเห็นว่าเป็นพื้นที่ดีเหมาะแก่การทำไร่ ทำนาดี จึงชวนกันไปตั้งถิ่นฐานอยู่ในเขตบริเวณป่าที่จับช้างได้นั้น จึงได้ชื่อบ้านที่ไปอยู่ใหม่ว่า “บ้านสีประหลาด” (ปัจจุบันอยู่ในท้องที่อำเภอภูเขียว)
เมื่อจับช้างเผือกได้แล้ว พระไกรสิงหนาท ได้นำไปถวายพระเจ้ากรุงสยาม ต่อมาพระไกรสิงหนาทแก่ชราลงอยากจะมอบการปกครองและตำแหน่งเจ้าเมืองให้แก่บุตรของตน จึงได้ทำใบบอก(รายงาน) ไปยังสมเด็จพระเจ้ากรุงรัตนโกสินทร์ ขอแต่งตั้งให้ท้าวบุญมา บุตรคนที่ 1 เป็นเจ้าเมืองแทน พระเจ้ากรุงรัตนโกสินทรืได้มีใบแต่งตั้งท้าวบุญมา เป็นเจ้าเมืองแทนบิดา และได้บรรดาศักดิ์เป็นหลวงไกรสิงหนาท ส่วนบิดาได้เลื่อนบรรดาศักดิ์จากพระไกรสิงหนาท เป็น “พระยาภักดีฦาชัยจางวาง”
เมื่อ ร.ศ.115 (พ.ศ. 2439) หลวงไกรสิงหนาท (บุญมา) ซึ่งอยู่ในรัชกาลของพระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว (รัชกาลที่ 5) หลังจากได้รับแต่งตั้งให้เป็นเจ้าเมืองแล้วได้ย้ายเมืองจากบ้านกุดเงือก (บ้านยาง) ไปตั้งเมืองอยู่ที่บ้านโนนเสลา (ปัจจุบันอยู่ในท้องที่อำเภอภูเขียว) เพราะเห็นว่าเป็นที่เหมาะสมอยู่กึ่งกลางพอดี เหมาะแก่การปกครองท้องที่และการเก็บส่วยภาษีของราษฎร เพราะอาณาเขตในเมืองเกษตรสมบูรณ์กว้างใหญ่มาก (เขตอำเภอแก้งคร้อ อำเภอบ้านแท่น อำเภอภูเขียว อำเภอคอนสาร อำเภอเกษตรสมบูรณ์ อำเภอหนองบัวแดง และอำเภอภักดีชุมพล ทั้ง 7 อำเภอนี้ อยู่ในเขตเมืองเกษตรสมบูรณ์สมัยนั้น)
สมัยที่หลวงไกรสิงหนาทเป็นเจ้าเมืองนี้ ท่านไม่ได้เก็บส่วยภาษีจากราษฎรโดยตรง เพราะเห็นว่าราษฎร อดๆ อยากๆ แต่เจ้สเมืองได้มอบให้กรมการเมืองนำราษฎรไปขุดร่อนเอาทองคำที่พืดเขาพระยาฝ่อ(ในเขตท้องที่ตำบลนางแดด อำเภอหนองบัวแดงในปัจจุบัน) บ่อทองบ่อนั้นเรียกว่าบ่อโขโหล หรือบ่อขี้โหล ซึ่งอยู่ใกล้ๆ กับถ้าบัวแดง ปัจจุบันยังมีร่องรอยในการขุดอยู่ แต่ได้ถูกน้ำกัดเซาะกลายเป็นลำห้วยไปแล้ว เมื่อได้ทองคำมาแล้ว หลวงไกรสิงหนาทจึงได้เจ้าหน้าที่หลอมทองคำนั้นเป็นแท่งๆ ส่งถวายแก่เจ้ากรุงสยามเป็นเครื่องราชบรรณาการทุกปี
ด้วยความดีความชอบ จึงได้รับเลื่อนบรรดาศักดิ์ เป็น “พระไกรสิงหนาท” คนที่ 3 มีบุตรชาย​คนแรกชื่อนายนรนิล​ ฦาชาอดีตนายกิ่งอำเภอ​เกษตร​สมบูรณ์​และได้เป็นบุตร"เขย" ของเสนาภิรมย์​ไกรภักดิ์ พร้อมได้ย้ายเมืองจากบ้านโนนเสลาไปตั้งที่บ้านลาดสามหมื่น (ปัจจุบันชื่อว่าบ้านลาด อยู่ในเขตพื้นที่ตำบลบ้านแก้ง อำเภอภูเขียว) แล้วทำให้ท้องที่หนองบัวแดงและตำบลนางแดด (เขตอำเภอหนองบัวแดงปัจจุบัน) ห่างไกลยากแก่การติดต่อราชการ พระไกรสิงหนาทจึงได้ย้ายเมืองกลับมาอยู่บ้านยาง (ที่ตั้งอำเภอเกษตรสมบูรณ์ปัจจุบัน) ตามเดิม ได้ให้กรมการเมืองปลูกสร้างจวนอย่างใหญ่โต ยาวประมาณ 3 เส้นปลูกต้นตาลไว้เป็นแถวสำหรับผูกช้าง มีการสร้างกำแพงเมืองโดยเอาท่อนไม้ซุงตัดเป็นท่อนๆ ฝังเป็นพืดล้อมรอบจวนของเจ้าเมือง 
ต่อมาพระไกรสิงหนาท ได้พิจารณาเห็นว่าท้องที่ตำบลหนองบัวแดงและตำบลนางแดด ยังห่างไกลยากแก่การติดต่อราชการจึงได้ทำใบบอก(รายงาน) ไปยังกรุงรัตนโกสินทร์ ขอแต่งตั้งให้พระชุมพลภักดี ปกครองท้องที่ตำบลหนองบัวแดงและตำบลนางแดดซึ่งเป็น่วนหนึ่งของเมืองเกษตรสมบูรณ์ สถานที่ทำงานอยู่ดอนกำแพงคือทางทิศเหนือของบ้านเหมือดแอ่ (บ้านหนองบัวแดง) และบ้านโนนงิ้วดอนกำแพงขณะนี้ยังมีซากกำแพงอยู่กลางทุ่งนา เรียกว่าตำบลคูเมือง ต่อมาประมาณ ร.ศ.117 (พ.ศ. 2441) ทางราชการได้เปลี่ยนแปลงการปกครองหัวเมืองชั้นนอกใหม่ให้เป็นมณฑล จังหวัด อำเภอ ทางราชการได้แต่งตั้งให้ร้อยโทขุนแผ้ว พลภักดี(โต๊ะ) มากำกับราชการเมืองภูเขียว เป็นข้อสันนิษฐานว่าภูเขียวคงจะเป็นเมืองแยกออกมาอีกในลักษณะการปกครองใหม่ในปีนั้นเอง ขุนแผ้ว พลภักดี ต้องการความดีความชอบได้ฟ้องร้องกล่าวหาพระไกรสิงหนาท ในข้อหาซ่องสุมผู้คนคิดการกบฏ โดยรายงานไปยังมณฑลนครราชสีมาและกรุงรัตนโกสินทร์ เจ้าเมืองนครราชสีมาได้ส่งทหารโดยปลอมตัวเป็นโจรมาปล้นจวนของพระไกรสิงหนาท เพื่อจับตัวไป เมื่อค้นจวนไม่พบสืบทราบว่าพระไกรสิงหนาทนำองค์กฐินไปทอดที่วัดบ้านแท่น (อำเภอบ้านแท่นในปัจจุบัน) โจรที่ปลอมมานั้นก็ถือโอกาสปล้นเอาเงินทองของใช้ที่มีค่าไป และจุดไฟเผาจวนไม้หมดสิ้น แล้วตามไปจับตัวพระไกรสิงหนาทที่บ้านแท่น พระไกรสิงหนาทยอมให้จับตัวแต่โดยดี เพราะตนไม่มีความผิดอันใด พระไกรสิงหนาทถูกควบคุมขังอยู่ที่มณฑลนครราชสีมา เพื่อต่อสู้คดี ผลคดีถึงที่สุด การกล่าวหาไม่มีมูลความจริงความจริงเป็นการกลั่นแกล้งของขุนแผ้ว พลภักดี ศาลมณฑลนครราชสีมายกฟ้องแล้วปล่อยตัวไป
พระไกรสิงหนาท ได้เดินทางเข้าเฝ้าพระเจ้ากรุงรัตนโกสินทร์ พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว (รัชกาลที่ 5) เพื่อรายงานให้ทราบ แต่แล้วก็เกิดเป็นโรคท้องร่วงอย่างรุนแรงโดยกะทันหันได้ถึงแก่อสัญกรรมที่กรุงรัตนโกสินทร์ โดยที่บุตรภริยา ลูกหลานไม่มีโอกาสได้รับรู้เห็นขณะป่วย ไม่สามารถนำศพคืนมาบ้านได้ เพราะการคมนาคมไม่สะดวกอย่างปัจจุบัน ด้วยเหตุนี้คนส่วนมากได้พากันเข้าใจว่าหายสาบสูญไปตั้งแต่ถูกจับไป
พระไกรสิงหนาท ท่านผู้นี้เป็นผู้มีความจงรักภักดีต่อสมเด็จพระเจ้ากรุงรัตนโกสินทร์มาก เป็นเจ้าเมืองที่ปกครองประชาชนด้วยความร่มเย็นเป็นสุข ตามประวัติของท่านที่กล่าวมานี้ เป็นเครื่องชี้ให้เห็นว่า ท่านเป็นคนซื่อสัตย์ จงรักภักดีต่อพระมหากษัตริย์ สนใจในพระพุทธศาสนา
เมื่อการปกครองเปลี่ยนแปลงหัวเมืองชั้นนอกมาเป็นมณฑลจังหวัด อำเภอ ตำบล หมู่บ้านในเขตท้องที่เมืองเกษตรสมบูรณ์ยุบเป็นอำเภอ ชื่อว่าอำเภอผักปัง (อำเภอภูเขียว) เมืองเกษตรสมบูรณ์เดิมเป็นกิ่งอำเภอเกษตรสมบูรณ์ ต่อมาเปลี่ยนเป็นกิ่งอำเภอบ้านยาง และกิ่งอำเภอบ้านยางได้ยกฐานะเป็นอำเภอเกษตรสมบูรณ์ เมื่อวันที่ 1 มีนาคม พ.ศ. 2481