Merefa est fondée en 1569. Elle a le statut de ville depuis 1927. Pendant la Seconde Guerre mondiale, Merefa fut occupée par l'Allemagne nazie d' au . En , de violents combats eurent lieu autour de Merefa pendant la Seconde bataille de Kharkov. À la suite d'erreurs du commandement, des dizaines de milliers de soldats soviétiques furent tués, blessés ou capturés. La ville changea plusieurs fois de main avant sa libération définitive par l'Armée rouge.