Après la prise de pouvoir par les nationaux-socialistes, Krebsbach est démis de ses fonctions de médecin de district en 1933 en tant qu'opposant présumé des Nazis. À l'automne 1933, il ouvre un cabinet médical à Fribourg. Dans un en même temps, il travaille comme médecin contractuel pour la police de la ville. La même année, il adhère au NSDAP et rejoint la SS. Son adhésion au parti rencontre des problèmes, si bien qu'il devient officiellement membre du NSDAP en 1937 après l'assouplissement des critères d'admissions. Au sein de la SS, Krebsbach est le chef de l'équipe de relais médical de la SS-"Standarte" à Fribourg. En novembre 1938, il est promu SS-"Untersturmführer". Krebsbach participe, au sein d'un petit groupe de SA et de SS, à la destruction par incendie de la synagogue de Fribourg lors des pogroms de novembre 1938.