Koroliov s-a născut în Jitomir, capitala oblastului omonim din partea centrală a Ucrainei, atunci parte din Imperiul Rus. Părinții, Maria Moskalenko și Pavel Yakovlevici, au avut un mariaj de conveniență. La numai trei ani de la nașterea lui Serghei, cuplul a divorțat din cauza problemelor economice. Mama i-a spus lui Serghei că tatăl lui a murit, dar mai târziu, în urma unor investigații personale va afla că acesta a trăit până în anul 1929. Cei doi nu se vor mai întâlni niciodată, deși tatăl său i-a solicitat într-o scrisoare Mariei permisiunea de a-și vedea fiul. Serghei a fost crescut de bunici în Nijîn, un oraș din regiunea Cernigov. Maria dorea o educație superioară pentru fiul ei, așa că l-a înscris la școală în Kiev. A fost un copil singuratic, având puțini amici, dar s-a dovedit un elev silitor, mai ales la matematică. În anul 1916 mama lui s-a căsătorit cu Grigori Mihailovici Balanin, un inginer electrician care se pare că a avut o influență benefică asupra micului Serghei. Găsind o slujbă la căile ferate regionale din Odesa în 1917, Grigori s-a mutat în acest oraș împreună cu familia. Anul 1917 a fost unul tulbure pentru Rusia, cu sfârșitul primului război mondial și începutul revoluției bolșevice. Luptele fratricide au continuat până în 1920, când comuniștii au ajuns la putere. În acea perioadă școlile au fost închise, așa că Sergei a fost nevoit să-și continue studiile acasă. În 1919, datorită lipsei de alimente s-a îmbolnăvit de tifos exantematic.