Grossefehns historia började år 1633 i och med att borgare från Emden lät bygga en kanal för att torrlägga de stora myrområdena som finns inom området. Torven som utvanns i området fraktades på kanalerna till Emden där den användes som bränsle. Under de följande århundradena koloniserades området av inflyttare som bildade Ostfrieslands första så kallade fehnkoloni. De torrlagda områdena runt West-, Mitte- och Ostgrossefehn används för jordbruk och under 1700- och 1800-talen odlades stora områden upp. Tillsammans med Papenburg i distriktet Emsland är Grossefehn Tysklands äldsta fehnområde. Vid jultid år 1717 drabbades området svårt av översvämningar i samband med storm och högvatten, julstormfloden 1717.