התקופה המוצלחת החמישית בהיסטוריה של המועדון החלה ב-1996 עם מינויו של המאמן ארסן ונגר. תחת הדרכתו זכה המועדון פעמיים בדאבל אליפות וגביע FA. כמו כן הצליח לזכות בתחילת שנות ה-2000 בשתי אליפויות, ובעונת זכה באליפות נוספת ללא כל הפסד במשחקי הליגה. המועדון הצליח להעפיל לגמר ליגת האלופות בעונת , והיה למועדון הלונדוני הראשון שעשה זאת, אך הפסיד בגמר לברצלונה. בעונה שלאחר מכן עזב המועדון את הייבורי ועבר לשחק באצטדיון האמירויות החדש.
השנים הראשונות (1886 - 1910).
המועדון הוקם בשנת 1886 על ידי קבוצת פועלים אשר עבדו במפעל התחמושת "רויאל ארסנל" שבווליץ', והם קראו למועדונם דיאל סקוור. שחקנים הבולטים בתחילת דרכו של המועדון היו המהנדס הסקוטי דייוויד דנסקין, אשר רכש את כדור המשחק הראשון של המועדון בכספי מגבית, וג'ק האמבל. בנוסף להם שיחק בארסנל פרד בירדסלי, שוערה לשעבר של נוטינגהאם פורסט, שיחד עם מוריס בייטס השיגו סט של מדים אדומים מנוטינגהאם פורסט. מאז נהג המועדון לשחק במדים אדומים.
המשחק הראשון של דיאל סקוור נערך ב-11 בדצמבר 1886, נגד איסטרן וונדררס במגרש פתוח באייל אוף דוגס. דיאל סקוור ניצחה במשחק זה בתוצאה 6 - 0. זמן קצר לאחר מכן שונה שמו של המועדון לרויאל ארסנל. משחקי הבית הראשונים של המועדון נערכו במגרש בשם "פלאמסטד קומון" שנמצא ברובע גריניץ', אך תוך זמן קצר החלו חבריו לתור אחר מגרשים אחרים, עד שב-1888 עבר המועדון לשחק באצטדיון מאנור גראונד. התנאים במגרש זה לא היו טובים, ולכן הוחלט ב-1890 כי משחקי הבית ייערכו באצטדיון אינוויקטה גראונד. אולם, שלוש שנים לאחר המעבר לאינוויקטה נאלץ המועדון לחזור למאנור גראונד, כיוון שדמי השכירות באינוויקטה היו גבוהים.
בתקופה זו זכה המועדון לראשונה בטורנירי גביע מקומיים: גביע קנט בעונת 1889/1890 וגביע הצדקה של לונדון בעונה שלאחריה. בנוסף, הייתה זו העונה הראשונה בה המועדון השתתף במשחקי הגביע האנגלי או בשמו המקובל - גביע ה-FA. כיוון שהמועדון היה חובבני, היה חשש ששחקניו יתפתו לעבור לשחק בקבוצות המקצועניות והעשירות. חשש זה התברר כמוצדק לאחר תוצאת תיקו במשחק גביע ה-FA ב-1891 בין ארסנל לדרבי קאונטי, שניסתה לגרום לשניים מהשחקנים החובבנים של המועדון לחתום עמה על חוזה לשחקנים מקצוענים. כתוצאה מכך הוחלט באותה שנה להפוך את המועדון למקצועני, ולשנות את שמו לווליץ' ארסנל.
להפיכתו של ווליץ' ארסנל למועדון מקצועני התנגדו מועדונים חובבניים מהאזור, והתאחדות הכדורגל האזורית של לונדון החרימה בתגובה את הקבוצה ולא איפשרה לה להשתתף בתחרויות המקומיות. המשחקים היחידים שהמועדון היה יכול לשחק בהם היו משחקי ידידות ומשחקי גביע ה-FA, ובמועדון נעשה ניסיון כושל להקים ליגת כדורגל דרומית שתהיה המקבילה לפוטבול ליג. הייתה זו תקופה קשה למועדון, אשר הסתיימה ב-1893, עת הוזמן המועדון להצטרף לשורות מערכת הפוטבול ליג. ארסנל היה המועדון הראשון מדרום אנגליה שהשתתף בליגה, ובתחילת דרכו שיחק בליגה השנייה. חלק משחקני המועדון החובבנים, שלא היו מעוניינים לשחק כמקצוענים, פרשו מהמועדון והקימו קבוצה יריבה בשם רויאל אורדננס פקטוריז (Royal Ordenance Factories), שהתקיימה למשך תקופה קצרה בלבד והתפרקה ככל הנראה ב-1896.
המועדון שיחק בליגה השנייה במשך 11 עונות, ועד למינויו של הארי ברדשו לתפקיד המאמן (ב-1899) סיים את העונה בדרך כלל במרכז הטבלה. בעונת 1901/1902 שחקן הקבוצה טומי ברירקליף היה מלך השערים של הליגה השנייה. תחת הדרכתו של ברדשו, ובכיכובם של השוער ג'ימי אשקרופט (הכדורגלן האנגלי הבינלאומי הראשון של ארסנל) והקפטן ג'ימי ג'קסון, המועדון הצליח להעפיל לליגה הבכירה בעונת 1903/1904. ברדשו עזב את המועדון במאי 1904. למרות מספר הצלחות בגביע ה-FA, שכללו הגעה לחצי הגמר בעונת 1905/1906 ובעונה שלאחריה, המועדון לא הצליח להתחרות על אליפות הליגה, ובין 1904 ל-1913 הצליח פעמיים לסיים מעל המקום העשירי בתום העונה.
הגורם העיקרי לבעיותיו של המועדון בתקופה זו היו בעיותיו הכספיות; צופים מעטים הגיעו למשחקי הבית של המועדון, כיוון שהוא שיחק במקום מרוחק מריכוזי האוכלוסייה הגדולים, וזאת למרות השגשוג בכדורגל האנגלי שהתרחש בתחילת המאה ה-20. על מנת להתמודד עם המשבר הכלכלי, נאלץ המועדון להתיר את חוזיהם של חלק מטובי שחקניו (כולל אשקרופט, טים קולמן וברט פרימן), ובהדרגתיות החל לרדת דירוגו בטבלה. ממוצע הצופים במאנור גראונד בסוף העשור הראשון של המאה היה 11,000 - כמחצית מהמספר הממוצע ב-1904.1908/1909 למועדון חזר תומאס פיצ'י והוא היה מלך השערים שלהמועדון בעונה זו עם 21 שערים. המועדון היה על סף פשיטת רגל, וב-1910 החל בהליכי פירוק. זמן קצר לאחר תחילת ההליכים נרכש המועדון על ידי מספר אנשי עסקים, ביניהם סר הנרי נוריס שהיה גם יושב ראש פולהאם, והחזיק במספר המניות הגבוה ביותר מבין חברי הקבוצה.
המעבר להייבורי (1910 - 1925).
נוריס היה מודאג מאוד ממיקומו הגאוגרפי המבודד של המועדון, ושאף להגדיל את הכנסות המועדון מהקהל. ניסיונו הראשון היה למזג את ארסנל עם פולהאם, אך הוא נסוג מכוונתו זו כתוצאה מהתנגדות הפוטבול ליג. לבסוף הוא החליט להעביר את המועדון למקום אחר, ובחר בשכונת הייבורי שבצפון לונדון. נוריס ביצע את המהלך הזה על אף התנגדות מצד אוהדי המועדון שהתגוררו בווליץ' והתנגדויות של תושבי הייבורי. הוא הוציא סכום משוער של 125,000 לירות שטרלינג (כ-8.2 מיליון במונחי 2005) על בניית האצטדיון החדש, שתוכנן על ידי ארצ'יבלד לייטך.
המועדון עבר לאצטדיונו החדש בשלהי עונת 1912/1913, אך בסיומה סיים בתחתית הליגה וירד לליגה השנייה. באפריל 1914 הושמטה המילה ווליץ' משמו של המועדון, ובאותה תקופה התקשורת התייחסה אליו פעמים רבות בכינוי "הארסנל" (The Arsenal).
ב-1919 המועדון הצטרף לליגה הראשונה בנסיבות שנויות במחלוקת, לאחר שסיים במקום השישי בעונת 1914/1915, עונה שהייתה האחרונה ששוחקה לפני פרוץ מלחמת העולם הראשונה. טעות בחישוב מספר השערים הובילה לכך שהמועדון היה אמור לסיים במקום החמישי, וטעות זו תוקנה על ידי הפוטבול ליג רק ב-1975. הליגה הראשונה הורחבה מ-20 ל-22 קבוצות, ושתי הקבוצות החדשות נבחרו בפגישה השנתית של הפוטבול ליג. אחד מהמקומות העודפים הוענק למועדון הכדורגל צ'לסי, שסיים במקום ה-19 בליגה העליונה, והיה אמור לרדת לליגה השנייה. המקום הנוסף היה אמור להינתן למועדון טוטנהאם הוטספר שסיים במקום ה-20, או לחלופין לבארנסלי או וולבס, שסיימו במקום השלישי והרביעי בליגה השנייה בהתאמה (שני המקומות הראשונים עלו אוטומטית ליגה).
במקום זאת, החליטה הנהלת הליגה לקדם את ארסנל; נוריס טען כי יש לקדם את ארסנל בזכות "השירות הארוך לליגת הכדורגל", בעיקר כיוון שהמועדון היה הראשון בליגה מדרום אנגליה. הנהלת הליגה החליטה ברוב של 18 לעומת 8 לקדם את ארסנל במקום את טוטנהאם הוטספר, החלטה שתרמה להגברת היריבות בין שני המועדונים. נטען גם כי נעשו מעשים לא חוקיים (כולל שוחד מצד נוריס), שכללו בין השאר שיתוף פעולה בין נוריס לג'ון מק'קנה, יושב ראש ליברפול, שגם תמך בהצעה להעלות את ארסנל ליגה. לטענות הללו לא נמצאו הוכחות כלשהן. נוריס התפטר מתפקידו כיושב ראש ועזב את המועדון ב-1929, לאחר שהורשע על ידי התאחדות הכדורגל באי-סדרים כספיים; התברר כי נוריס ניצל לרעה את חשבון ההוצאות שלו, ולקח לעצמו את הרווחים ממכירת האוטובוס של ארסנל. למרות הנסיבות השנויות במחלוקת של אירועי 1919, מאז נותר המועדון בליגה הראשונה, וכיוון שכך הוא מחזיק בשיא העונות הרצופות בליגה הבכירה.
כתוצאה מהמעבר להייבורי החלו להגיע צופים רבים יותר למשחקי המועדון. ממוצע הצופים בעונה הראשונה בהייבורי היה 23,000 (בהשוואה ל-11,000 במאנור גראונד), והמשיך לעלות לאחר ההעפלה לליגה הבכירה ב-1919, עד שבסופו של דבר הוסר האיום הכלכלי על המשך דרכו של המועדון. אולם, חזרתו של המועדון לליגה הבכירה לא הייתה הצלחה מיידית. תחת הדרכתו של לזלי נייטון לא הצליח המועדון לסיים מעל המקום התשיעי, ובעונת 1923/1924 סיים רק במקום ה-19, נקודה אחת מעל לקו האדום (המועדונים שסיימו מתחת ל"קו" זה ירדו לליגה השנייה), ובעונה שלאחר מכן סיים המועדון במקום העשרים ובמרחק שבע נקודות מהקו האדום. כתוצאה מכך החליט נוריס לפטר את נייטון ולמנות במקומו את הרברט צ'פמן, שאימן לפני כן בהצלחה את קבוצת האדרספילד טאון.
תקופת צ'פמן (1925 - 1934).
צ'פמן ביצע שינויים רבים בדרכי העבודה של המועדון, ובהם מודרניזציה של האימונים, שימוש בטיפולי פיזיותרפיה, הוספת ספרות לחולצות השחקנים באוגוסט 1928, ובמרץ 1933 הוספה של שרוולים לבנים לחולצות המועדון האדומות. צ'פמן דרש מהעיתונאים לקרוא למועדון "ארסנל", ופעל בהצלחה לשינוי שמה של תחנת הרכבת גילספי רואד המקומית, ל"תחנת ארסנל". באותה תקופה היה לצ'פמן תקציב גבוה להחתמת שחקנים, בעקבות השיפור במצבו הכלכלי של המועדון והגדלת סכומי הכספים שהנרי נוריס היה מעביר למטרה זו.
השחקן הראשון שהוחתם על ידי צ'פמן היה צ'ארלי באקן מסנדרלנד, שתרם למועדון בכמה היבטים. לאחר ההפסד לניוקאסל יונייטד בתוצאה 0 - 7 באוקטובר 1925, הציע באקן לשנות את מערך המשחק של ארסנל על מנת לשפר את יכולת ההגנה מול המועדונים היריבים, וכן על מנת להתמודד בצורה טובה יותר עם חוק הנבדל החדש, שהוריד את מספר השחקנים שצריכים להיות בין השחקן התוקף לשער, משלושה לשניים. צ'פמן המשיך לפתח את מערך המשחק של ארסנל, ושם דגש על חלוצים מהירים, שחקני אגפים הנעים לכיוון מרכז המגרש, ותפקיד הקשר המנהל את המשחק הקבוצתי.