הגן היה אחד הגנים הציבוריים הראשונים שניטעו בארץ ישראל, והוא הוקם בשנת 1902, כשנתיים לאחר ייסודה של העיר בידי העות'מאנים. הגן הוקם במרכזה של העיר, בצמוד לבית הסראייה ששכן ממערב לו, ושימש להתכנסויות ולטקסים. בשל כך שלא היה מגודר הלך מצבו והתדרדר בשל רעיית העיזים והגמלים בשטחו, ובגלל מנהגם של הבדואים לקושש בו עצים לבערה. בשנת 1915, לאחר פרוץ מלחמת העולם הראשונה, יזם אחמד ג'מאל פאשה, שליט וילאייט סוריה שכלל גם את ארץ ישראל, תוכנית לייעור המדבר. לשם כך שכר את שירותיהם של חקלאים, רובם יהודים בוגרי מקוה ישראל ותושבי המושבות היהודיות, והורה להם לטפח גנים בכל מקום בו ימצאו מקור מים. החקלאים הסדירו בגן ארבעה שבילים המוליכים אל מרכזו מכל אחת מארבע כניסותיו, טיפחו בו ערוגות והקיפו אותו בגדר. במרכז הגן הוצב עמוד שיש ועליו נחקקו סמל האימפריה העות'מאנית וכתובת המנציחה את ניצחונות הצבא הטורקי על הבריטים בקרב עזה הראשון והשני בחודשים מרץ ואפריל 1917.