Nach dem Beginn des Zweiten Weltkrieges stand Chomenko in der gleichen Position an der Südwestfront, die auf Grundlage des Besonderen Militärdistrikt Kiew gebildet worden war. Während des deutschen Angriffs auf die Sowjetunion (Juni 1941) organisierte er der die westlichen Grenztruppen der Ukraine und leitete den Abzug der geschlagenen zurückgehenden Truppenmassen. Am 12. Juli 1941 wurde er zum Kommandeur der 30. Armee ernannt, die Ende Juli bei der Westfront etabliert wurde. Unter seinem Kommando nahm die 30. Armee an der Kesselschlacht bei Smolensk, an den Verteidigungskämpfen südwestlich der Stadt Bely und im Raum Rschew an der Kalininer Operation teil. Am 4. Dezember 1941 wurde er zum stellvertretenden Befehlshaber der Truppen der Moskauer Verteidigungszone ernannt. Im August 1942 wurde er kurzfristig Befehlshaber der 24. Armee, dann wurde er als Teil der Transkaukasusfront zum Befehlshaber der neu gebildeten 58. Armee ernannt. In dieser Position führte er die Truppen im Verteidigungsbereich der Stadt Machatschkala. Vom 11. bis 31. August 1942 war er Kommandeur der NKWD-Division Machatschkala, mit welcher er die Aufständischen in den Bergregionen von Dagestan und Tschetschenien bekämpfte. Am 21. November 1942 wurde er zum Kommandeur der 44. Armee ernannt und am 18. Mai 1943 zum Generalleutnant befördert. Unter seiner Führung nahm die 44. Armee an der Schlacht im Kaukasus, an den Offensiven in Rostow, Donbass und an der Melitopoler Operation teil und befreite die Städte Woroschilowsk, Taganrog, Mariupol und Asow. Ende Oktober 1943 wurde die 44. Armee aus der Linie Zawadowka-Kachowka in die Frontreserve der Stawka zurückgezogen.