Kaupungin syntyvaiheet eivät ole täysin selvät, mutta se mainitaan kronikoissa 1100-luvulla ja perustamisvuotena pidetään vuotta 1142. Tällöin paikkakunta mainitaan linnoitettuna asuinpaikkana ruhtinas Mstislavin perustamassa Kiovan Rusin Tšernihivin (Tsernigov) ruhtinaskunnassa. Seuraavien vuosisatojen aikana paikkakunta oli toisinaan niin valtakunnan sisäisten kuin eri valtakuntien välisenä taistelun kohteena. Vuodesta 1335 lähtien paikkakunta liitettiin osaksi Liettuan suurruhtinaskuntaa, myöhemmin 1385 solmitun Krevan unionin tuloksena osaksi laajempaa Puola-Liettuaa. 1500-1503 käydyn sodan seurauksena Gomel siirtyy kuitenkin 1535 saakka osaksi Moskovan Venäjää. Liettuan suuriruhtinaskunnan hetmanni Mikalojus Radvila Mustan johdolla käytyjen taistelujen seurauksena Gomel liitetään takaisin Liettuan. Vuodesta 1569 lähtien se oli yli 200 vuotta Liettuan Minskin "maakunnan" Retšytsan piirikuntaan. Liivinmaan sodan vuosina 1558–1583 venäläiset kuitenkin useasti valloittavat Gomelin. Vuonna 1560 paikkakunta saa ensimmäisen vaakunansa. Toukokuussa 1581 venäläisjoukkojen hyökkäyksen seurauksena taajama poltetaan. Vuonna 1670 Gomel sai Magdeburgin lain mukaiset kaupunkioikeudet. 1737 kaupunki palaa jälleen, vain Pyhän Nikolain kirkko säästyy. Vuoteen 1765 mennessä Gomeliin nousee kuitenkin jo 206 taloa.