Kolçak 1874 yılında Sankt-Peterburg’da askeri bir ailenin çocuğu olarak dünyaya geldi. Soyadı Türkçe olan Kolçak'ın iddialara göre atası Hotin'de kale komutanı Gagauz Türküydü ve torunları daha sonraları Rusya'ya göç etmişti. Ancak buna dair net kanıt yoktur. Babası Sivastopol emekli bir deniz topçu generaliydi. 1854-55 yılları arasında Kırım Savaşında savaşmış daha sonra Sankt Petersburg’da mühendislik yapmaya başlamıştır. Kolçak, ailesinden gelen telkine göre deniz subayı olacak şekilde eğitim alır. 1894 yılında Deniz Harp Okulundan mezun olur. Çok geçmeden Vladivostok’a tayini çıkar. Burada 1895 - 1899 yılları arasında görev yapar. 1899 yılında Kronstadt Üssüne gelir.