1908年から1910年にかけてと1913年の4度、ハンス・ガイガーとアーネスト・マースデンが、数原子にまで薄くした金箔にアルファ線を照射するガイガー・マースデンの実験をラザフォードの指導の下で行っていた時、2度目の実験の際に初めて発見された。実験当時、原子はJ. J. トムソンの提唱した、負電荷（ブドウ）が正電荷を帯びた球体（パン）にちりばめられたブドウパン模型のように理解されていた。もしこの理解が正しければ、「パン」部分は現在のモデルにおいて正電荷が集中している原子核よりも大きく拡がっており、そんなに大きなクーロン力を及ぼすことはできず、アルファ粒子は小さな角度だけ偏向するに留まるはずだった。