במאי 1944 קיבל קונייב את הפיקוד על החזית האוקראינית הראשונה, וביולי 1944 פתחו כוחותיו במתקפה גדולה בצפון-מערב אוקראינה ובמזרח פולין (מבצע לבוב-סנדומייז'), במקביל למתקפה הסובייטית הגדולה, שנערכה בשטח בלארוסיה (מבצע בגרטיון). הם חדרו לתחומי פולין הכבושה, צלחו את נהר הויסלה באזור סנדומייז', והצליחו לתפוס ראש גשר בגדה המערבית של הנהר ולהחזיק בו, למרות התקפות נגד גרמניות עזות.