De første kanonbåtene i Norge var rokanonbåter eller kanonjoller fra slutten av 1700-tallet. Det vil si åpne båter som ble rodd og hadde en stor kanon i akterenden. Kanonjoller ble innført i Sverige av admiralen og skibskonstruktøren Fredrik Henrik av Chapman på 1770-tallet. Etter visse modifikasjoner av konstruksjon og utstyr begynte kanonbåtene å bli dekket og utstyrt med seil. På 1860-tallet ble dampkanonbåter introdusert i den svenske marinen.