ヨム・キプル
1931年9月12日にはベルリン大管区指導者ヨーゼフ・ゲッベルスの指示を受けて副官カール・エルンストとともにヨム・キプルに合わせた反ユダヤ主義行動を組織した。この件でヘルドルフ以下35名の突撃隊員がベルリン警察に逮捕された。裁判では弁護士についたローラント・フライスラー(彼はのちに人民裁判所長官となり、皮肉にもヘルドルフに死刑判決を下すことになる)の手腕のおかげで6か月の懲役刑という軽い判決で済んだ。同年12月から1932年2月まで刑務所に収監された。