Hitlers maktovertakelse fikk ham til å si: «» Scharffenberg var blant de første i Norge som advarte mot nazismen. I en serie på hele 29 kronikker i i 1933 om Tyskland diagnostiserte han Hitler som «». Sammen med C.J. Hambro og Mowinckel var han blant de få som engasjerte seg sterkt for jødenes vilkår i Tyskland, og Scharffenberg foreslo i 1936 å ta imot 5.000 jødiske flyktninger, men forslaget ble ikke tatt alvorlig. Under andre verdenskrig ble Scharffenberg ilagt tale- og skriveforbud av den tyske okkupasjonsmakten på grunn av sin aktive motstand mot nasjonalsosialismen i 1940. Året etter ble han avsatt fra sin stilling som overlege ved Oslo Hospital.