Samsonov dilahirkan di Kegubernuran Kherson di Kekaisaran Rusia. Ia bergabung dengan Angkatan Darat Kekaisaran Rusia pada saat masih berusia 18 tahun. Ia pernah turut serta dalam Perang Rusia-Turki 1877–78 dan Pemberontakan Boxer (1900). Pada masa Perang Rusia-Jepang (1904–1905), Samsonov memimpin brigadir kavaleri dalam Divisi Cossack Siberia Ussuri. Ia lalu dipromosikan sebagai komandan semua pasukan kavaleri dalam Korps Angkatan Darat Siberia Pertama setelah kekalahan Rusia dalam Pertempuran Telissu. Pasukannya lalu melindungi bagian samping pasukan Rusia dalam Pertempuran Liaoyang. Setelah kekalahan Rusia dalam Pertempuran Mukden pada tahun 1905, ia marah kepada Paul von Rennenkampf karena ia merasa Rennenkampf tidak membantunya selama pertempuran. Pertengkaran ini membuat mereka saling bermusuhan.