Udgravninger har vist, at området omkring Kola har været beboet mindst 2.000 år. Byen Kola nævnes første gang i 1264 som beboet af Pomorer. I 1565 blev Kola udvidet med et fort, som modstod svenskernes forsøg på at indtage det mellem 1590 og 1595 under den Den nordiske 25-årskrig. Byen havde sin storhedstid i 1600-tallet, hvor den var et centrum for handel og skibsrejser til Spitsbergen og Novaja Zemlja. Petsjengaklosteret flyttede også dertil i denne periode.