החומה עצמה נבנתה בתגובה למתקפה הגאלית על רומא, שארעה לאחר התבוסה הרומית בקרב אלייה. ההחלטה על הקמת החומה התקבלה בשנת 378 לפנה״ס על ידי הקנסורים, ולוותה במס ציבורי שהושת למימון היוזמה. הקמת החומה מעידה על חוזקה של רומא באותה עת, על אף התבוסה לגאלים. מלאכת הבניין נסתייעה בכך שאדמת העיר האטרוסקית ויי, בה נמצאו מחצבות ה-Grotta Oscura שספקו אבן באיכות טובה, סופחה לרומא בשנת 396. העבודות נמשכו ככל הנראה עד אמצע המאה הרביעית.