Nel maggio del 1941 la divisione fu spostata in Romania alle dipendenze dell'11. Armee, svolgendo attività d'addestramento per l'Esercito rumeno. Il 22 giugno 1941 l'unità prese quindi parte all'operazione "Barbarossa", l'attacco tedesco contro l'Unione Sovietica, inserita nel Gruppo d'armate Sud del feldmaresciallo Gerd von Rundstedt: la 170ª Divisione combatté duramente in Bessarabia e nell'Ucraina meridionale, e partecipò anche all'invasione della Crimea tra la fine di settembre ed i primi di novembre del 1941, catturando i porti di Feodosia e Kerč'. Dopo essere stata impiegata davanti alle fortificazioni di Sebastopoli subendo gravi perdite, tra l'8 ed il 21 maggio 1942 la divisione partecipò all'operazione Trappenjagd contro le forze sovietiche che avevano ricatturato Kerč, infliggendo loro una dura sconfitta. La divisione fu poi nuovamente trasferita davanti Sebastopoli, partecipando all'attacco finale alla fortezza a partire dal 7 giugno: schierata sul settore meridionale della linea del fronte, conseguì un importante successo la sera del 28 giugno, quando con un attacco notturno aprì una breccia nella linea fortificata sovietica sulla cresta di Sapun; Sebastopoli stessa cadde infine il 4 luglio seguente.