1902年からエアランゲン大学で物理学と数学を学び、1906年に博士号を得た。1907年からマンチェスター大学物理学教授のアーネスト・ラザフォードのもとで働き、1909年にガイガー＝マースデンの実験を行った。1911年にはガイガー・ヌッタルの法則を定式化し、原子の構造を明らかにした実験を行った。1912年にベルリンののリーダーとなり、1925年クリスティアン・アルブレヒト大学キールの教授となった。1928年に、ヴァルター・ミュラーとガイガー＝ミュラー計数管を開発した。ガイガーはナチス政権下で、テュービンゲン大学とベルリン大学の教授職を得たので、ナチスとの関係が問題にされるが、ガイガーは1945年の彼の死まで、政治的な発言の記録は残っていない。