Ein Siedler namens Joseph Chapline zog um 1740 in die Gegend, nach Beendigung des Franzosen- und Indianerkrieges gründete er die Stadt im Jahre 1763. Er benannte den Ort zu Ehren seines Freundes und des proprietären Gouverneurs der Provinz Maryland, Horatio Sharpe. Auf der Ostseite des Potomac River gelegen, hatte der Ort Zugang zu Wasserkraft und wurde im frühen 19. Jahrhundert ein bevorzugter Standort für die Industrie. Dies verstärkte sich, als der Chesapeake and Ohio Canal im Jahre 1836 bis nach Sharpsburg verlängert wurde.