גבעת הצלבים נזכרה לראשונה בכתובים בשנת 1850 וצוין כי נצבו בה 17 צלבים; אך מקובל שהצלבים הראשונים הונחו באתר בו שכנה קודם לכן מצודת יורגצ'אי-דומנטאי (Jurgaičiai-Domantai), כבר ב-1831. הצלבים הונחו בידי קרוביהם של קורבנות התקוממות נובמבר שהתחוללה בשנים 1831-1830, לאחר שממשלת האימפריה הרוסית מנעה מהם לקוברם. צלבים נוספים הונחו במקום לאחר מרד ינואר בשנת 1863. בתחילת המאה ה-20 כבר נודעה הגבעה כמקום קדוש, ונהגו בה עריכת מיסות והתייחדות.