Історія походження назви села відома з народних переказів та спогадів старожилів, а також архівних матеріалів Яготинського князя Рєпніна. У XIV—XV століттях, у період монгольської навали, люди втікаючи від ворогів, поселялись на берегах річок Ворскли, Сули і невеликої тихої річечки Чумгак, що нині протікає біля Ковалівки. Перші поселення з'явилися десь у 30-ті роки XV століття. Тепер цей куточок села називається Жабокрюківкою. Через декілька років сюди прийшли два брати, обидва ковалі, які майстерно володіли своїм ремеслом. Звідси і пішла назва населеного пункту. За іншою версією назва села походить від прізвища козака Григорія Коваля.