חומות העיר קייב ושלושת השערים המרכזיים בה הוקמו בתקופת שלטונו של יארוסלאב הראשון, נסיך קייב. שער הזהב, הדרומי בשערי העיר והחשוב שבהם, הוקם בשנים 1017–1024 (שנת 6545 לפי הלוח הביזנטי), סמוך להקמתה של קתדרלת סופיה הקדושה, אך נקרא "השער הדרומי" או "השער הגדול של קייב". רק לאחר הקמת כנסייה זהובת-כיפה בסמוך, שנצפתה למרחוק, החל להקרא "שער הזהב". כמו רוב המבנים המפוארים בעיר, נפגע השער בעת הכיבוש המונגולי של העיר ב-1240. השער המשיך להיות אתר מרכזי למשך 500 שנה ודמה ככל הנראה לקשת ניצחון. ב-1648 ערך דרכו בוגדן חמלניצקי מצעד ניצחון ("טריומף"), כאשר נכנס לעיר באופן טקסי לאחר ניצחונותיו. אולם מצבו של השער התערער עם השנים ובמהלך המאה ה-18 הוא התמוטט.