Територията около Смилтене някога е била част от Талава, земя населена от племето латгали. След като немските кръстоносци превземат почти цяла сегашна Латвия, районът става част от владенията на рижкия архиепископ. През 1359 година по стръмните склонове на река Абулс е построена крепост. Около нея се заселват тъговци и занятчий, а населеното място носи името Смилтен. За първи път то е споменато през 1427 в исторически документ, а през 1523 година за първи път е наречен град. По време на Ливонската война крепостта и градчето са сринати до основи от армията на руския цар Иван Грозни. След това Смилтен е включен в полско-литовския съюз Жечсполита и е управляван от старостта Каспар Млодецки.