שנת 1911 הייתה אחת המוצלחות מבחינתו. ניסויים שערך תלמידו ארנסט מרסדן בפיזור חלקיקי אלפא במעברם דרך רדיד זהב הביאו אותו לתגלית שרוב המסה של האטום מרוכזת בגרעין, המהווה פחות מאלפית מרדיוס האטום כולו. נילס בוהר הדני שעבד עם רתרפורד השלים את התמונה כשמיקם את האלקטרונים במסלול יציב מסביב לגרעין (ראה מודל בוהר).