Trotz dieser politischen Anpassung wurde Scharff als entarteter Künstler diffamiert, drei seiner Werke wurden im Juli 1937 in der NS-Ausstellung Entartete Kunst verhöhnt und 46 seiner Werke schließlich als "Entartete Kunst" vernichtet. 1938 wurde er von seinem Lehramt in Düsseldorf beurlaubt und aus der Reichskammer der Bildenden Künste ausgeschlossen.