Die Besiedlung des heutigen Herkimer County erfolgte zunächst entlang des Mohawk River. Um 1722 entstand zunächst Little Falls, eine Kolonie von Siedlern aus Kurpfalz. Bis zum Ende des Unabhängigkeitskrieges blieben sie praktisch die einzigen Siedler in dieser Gegend; sie teilten sich aber auf mehrere Siedlungen auf. Während des Britisch-Französischen Krieges ab 1756 wurde die Siedlung zweimal überfallen und einige Bewohner getötet oder als Kriegsgefangene fortgeführt. Auch während des Unabhängigkeitskrieges wurde die Siedlung mehrfach angegriffen sowie Gebäude und Felder zerstört. Im September 1778 wurde auch das 1772 gegründete German Flats von 300 britischen Soldaten und etwa 150 verbündeten Indianern eingenommen, die Gebäude zerstört und das Vieh getötet; zwei Einwohner fanden den Tod. Daraufhin wurden bei German Flats und bei Danube je ein befestigtes Fort errichtet, die aber von späteren Kampfhandlungen unberührt blieben.