Die Entstehung der 1267 zum ersten Mal schriftlich erwähnten Stadt war mit dem Bau einer Festung verbunden und sollte die Bevölkerung vor Überfällen mongolischer Reiterheere schützen, die bereits 1238 die Fürstentümer der Kiewer Rus angriffen und 1240 die Hauptstadt Kiew zerstörten. Im 14. Jahrhundert gehörte Mahiljou, das eine weitgehende Autonomie errungen hatte und als ein bedeutendes Handelszentrum in der Region galt, zum Großfürstentum Litauen.