Grote Piers genaues Geburtsdatum ist unbekannt. Er war ursprünglich ein Bauer und Seemann aus dem Dorf Kimswerd nahe der Hafenstadt Harlingen in den Niederlanden. Im Rahmen der sächsischen Fehde wurde sein Hof im Jahr 1515 von Söldnertruppen der Schwarzen Garde zerstört. Sein Hass auf die Mörder seiner Frau trieb Gerlofs dazu, auf eigene Faust Krieg gegen die Unterdrücker seiner Heimat zu führen. Er schloss dazu ein Bündnis mit dem Herzogtum Geldern. Dessen Herzog, Karl II. von Geldern, unterstützte er während eines Krieges gegen Holland. Mit seiner eigenen Truppe ging er auf Kaperfahrt.