Шернер је 7. априла 1944. послат у инспекцију трупа на Криму. Закључио је да је све било у најбољем реду што није било тачно. 17. армија која је била одређена за одбрану Крима је била лоше припремљена и наоружана. Један дан након инспекције, 17. армија је нападнута и скоро цела уништена. Само мањи део јединице је успео да се повуче у Севастопољ и да учествује у одбрани тог града. Шернер је покушао да убеди Хитлера да се Севастопољ евакуше, што је Хитлер одбио. Након тога, Шернер је издао наредбу да ће сваки војник који покуша да дезертира бити упуцан. Совјети су извршили напад на Севастопољ 5. маја и том приликом, 43.000 немачких војника је заробљено.