Năm 1974, Ferguson bắt đầu sự nghiệp huấn luyện, thời gian đầu huấn luyện cho các câu lạc bộ bóng đá vừa và nhỏ như St. Mirren.