Polikarpov ble født i landsbyen Georgievskoye i nærheten Livny i Oryol Governmentet. Han var sønn av en landsbyprest i den russisk-ortodokse kirken, og var i utgangspunktet ment å bli prest og studerte ved Oryol Seminar før han flyttet til St. Petersburgs statlige polytekniske universitet i 1911, hvor han ble fascinert av det arbeidet som ble utført med fly i skipsverftet. Polikarpov ble uteksaminert i 1916 og begynte å arbeide for Igor Sikorsky som ledet bygging av fly ved Russo-Baltique. Mens han arbeidet for Sikorski, hjalp han til med å konstruere Sikorskys massive lja Muromez, et fire-motors bombefly for det Keiserlige russiske flyvåpenet.