המיקום וזמן הקמת המועדון אינו ידוע בוודאות, כיוון שלא נמצא תיעוד חד משמעי התומך לתאריך הקמתו הרשמי הידוע כיום, שנת 1899. למשך שנים ארוכות תאריך הקמת המועדון הייתה בעצם הפרסום הראשון בו הופיע המועדון בראשית העיתונות שנעשתה במאה ה-20, ב-1901, ובכתבה שנעשה ב-28 בדצמבר 1941 הטוענת כי המועדון הוקם באותה השנה. אולם מחקר שנעשה על ידי קרן המורשת של שמרוק רוברס, קבעה כי שורשי המועדון עוד לפני כן, והמשחק הראשון של המועדון באופן רשמי נערך נגד קבוצת רוזמאונט ב-1899, ומכך הגיעה שנת הקמת המועדון הידועה כיום. הוויכוח לגבי הקמת המועדון כיום היא האם הוא הוקם ב-1901 או ב-1899, כאשר ידוע כי במשך שנתיים קיים המועדון משחקי ראווה בלבד, ללא משחקים תחרותיים.
מקור המועדון הוא מפרבר בדרום מזרח העיר דבלין בשם רינגסנד, ושם המועדון נגזר משדרות שמרוק הנמצאות בעיר רינגסנד, שם היה משכנו הראשון של משרדי המועדון. בספטמבר 1906, אחרי מספר שנות פעילות, פרשו הרוברס מהליגה הראשונה של מחוז ליינסטר והמועדון היה בהפסקה מטורנירים תחרותיים. ב-1914 המועדון חזר ונרשם לליגות התחרותיות, והחל לקיים את משחקיו באצטדיון רינגסנד פארק. לאחר שנה המועדון למעשה התפרק שוב וקיים רק משחקי ראווה במשך חמש השנים הבאות. ב-1921 הרוברס הוקמו מחדש בליגה הראשונה של ליינסטר, והגיעו לגמר בעונת הבכורה של הגביע האירי (גביע ה-FAI), אך הפסידו לסנט. ג'יימס גייט. עונה אחת לאחר מכן זכה המועדון באליפות הליגה הבכירה באירלנד (עונת 1921/922, שלמעשה הייתה עונת הבכורה שלו בליגה, עם רצף של 21 משחקים ללא הפסד, ו-77 שערים לזכותו. ב-1924 חזר למועדון בוב פולהאם, שהיה כוכב המועדון בשנים לפני כן, והצטרף לשחקנים ג'ון פלוד, ג'ון פאגאן, ובילי פארל, שהרכיבו את רביעיית ההתקפה שהייתה ידוע בתור "ארבעת ה-F-ים" (The Four Fs). בתום חמש העונות הראשונות של הליגה הבכירה באירלנד, המועדון זכה בשלושה, ובתואר גביע אירי אחד (ב-1924/1925). בשנות ה-30 המועדון זכה בשלושה תוארי אליפות נוספים, ובחמישה תוארי גביע, כשהשחקנים הבולטים בשורות הקבוצה היו פאדי מור וג'ימי דאן שהובילו את הקבוצה להישגים אלו, בזמן שהקבוצה הצליחה למשוך כ-30 אלף אוהדים כמעט בכל משחק למגרשה הביתי שהיה גלנמור פארק. עד לשנת 1949, מיצבה את עצמה שמרוק רוברס בתור הקבוצה המצליחה ביותר באירלנד כשזכתה סך הכל ב44 תארים: שישה תוארי אליפות הליגה הבכירה, 11 תוארי גביע אירי, שבעה תוארי מגן הליגה האירית, שישה תוארי גביע ליינסטר לבוגרים, 2 גביעי העיר של דבלין, ארבעה גביעי ערי הירידים האירי, ועוד שמונה תוארי גביע הנשיא האירי.
בנובמבר 1949, אחרי מותו של המאמן ג'ימי דאן, פאדי קואד נכנס לעמדת השחקן-מאמן, לאחר ששיחק עבור המועדון במשך 8 עונות והיה אחד השחקנים הבולטים ביותר בליגה האירית. קואד ביצע מהפכה גדולה בתחום הנוער של המועדון, ובמשך שלוש העונות הראשונות בתפקידו החדש, גייס למעשה בית ספר שלם של ילדים תחת מחלקת הנוער. קואד החל בשגרת אימונים חדשנית לתקופה זו, עם התמקדות בשיפור היכולות הטכניות ובהחזקת כדור, כך שלאחר מעבר במחלקת הנוער השחקנים למדו לשחק כדורגל מהיר, שוטף הכולל מסירות רבות. מודל זה תרם רבות להתפתחות הכדורגל באירלנד. ב-1954 זכה המועדון פעם נוספת באליפות הליגה האירית העליונה, וזאת בפעם הראשונה אחרי 15 עונות בהם לא הצליח לעשות זאת, כאשר החלוץ פאדי אמברוז מסיים בתור מלך שערי הקבוצה ונחשב לשחקן המשמעותי ביותר בעונה זו. שחקנים נוספים לצידו היו ליאם טוהי, והמאמן קואד בעצמו ששימש גם כשחקן הקבוצה במקביל, ובהמשך הוסיף המועדון עוד 2 תוארי הגביע האירי בשנות ה-50.
שישה גביעים ברצף (1960 - 1970).
לאחר עזיבתו של קואד ב-1960, ועונה לא מוצלחת תחת אלבי מרפי, במקומו מונה שון תומאס. פאדי אמברוז ורוני נולאן נשארו במועדון אליהם הצטרפו החתמות חדשות ומרשימות יחסית בליגה האירית כמו פרנק אונ'יל וג'וני פולהאם. כמו כן ליאם טוהואי החליט כי הוא חוזר למועדון כקפטן, לאחר 4 שנים מוצלחות בניוקאסל יונייטד. בעונת 1963/1964, המועדון זכה בכל התארים המקומיים האפשרים, מלבד "גביע הטופ-4". בטורניר גביע ערי הירידים נוצחו הרוברס אחרי הפסד דחוק בשלבי הנוקאאוט לולנסיה, שזכתה בגביע לבסוף בעונה זו. תומאס סיים את דרכו במועדון בסיום העונה עקב סכסוך עם הקונינגהאמים (משפחת הבעלים), לגבי סגל השחקנים. ליאם טוהואי נבחר להיות ממשיך דרכו בתור המאמן-שחקן של המועדון, ואיתו זכה בגביע האירי עוד 5 עונות ברציפות להשלמת שישה תוארי הגביע האירי ברצף, הישג שמעולם לא שוחזר באירלנד. בעונת 1968/1969 הבקיע מיק ליץ' 56 שערים עבור המועדון, במה שהייתה אחת מעונות השיא של שחקן בודד עבור הרוברס.
דעיכה (1970 - 1983).
ה"הופס" הפסידו לקבוצת שלבורן בסיבוב הראשון של הגביע האירי של 1970, ההפסד הראשון שלהם בשלב ה-32 מזה שבע שנים, מה שהיה אחד מהסימנים לתחילת תקופת הדעיכה של המועדון. למרות התחלה טובה יחסית כשהיא מפספסת את תואר האליפות בדוחק בעונת 1970/1971, 12 השנים הבאות שהמועדון נכנס אליהם, היו הגרועות ביותר אותם הוא חווה מאז ומעולם, על המגרש ומחוצה לו. חוסר היציבות והסכסוכים הפנימיים של הבעלים עם השחקנים לגבי עניינים כספיים לא עזבו את המועדון במנוחה ואלו הגיעו גם אל הדשא שם הראתה הקבוצה חוסר יציבות, כשבמהלך שנות ה-70, המועדון המצליח ביותר באירלנד עד אז, זכה בגביע האירי פעם אחת (1977/1978), ללא תארים בולטים אחרים, כאשר עם המועדון ביחד, דועך כל הכדורגל האירי שנכנס לתקופה רעה בכללותו והענף לא משך כמעט קהל ועניין למגרשים. בהשפעת התקופה הרעה וחוסר העניין שהביעה הקהל בקבוצה, החליטו הבעלים (שהספיקו להתחלף) לדלל את סגל הקבוצה ולהשקיע את המינימום הנדרש בעודם משחררים שחקנים בכירים, כשהמחליפים הם שחקני נוער ושחקנים זולים אחרים מהליגה. הקבוצה התדרדרה עד כדי ירידה לליגת המשנה והייתה צריכה להירשם מחדש לליגה העליונה.
בשנת 1977, המאמן-שחקן הבינלאומי ג'ון ג'ילס חזר לדבלין ולקח את תפקיד המאמן ברוברס, הבעלים החדשים (הקילקויינס) החליטו על לחזור ולהשקיע באצטדיון ובמועדון בשנים הבאות כשהם בונים מחדש את אצטדיון גלנמור פארק, והשקעה בקבוצה תוך הפיכתו למועדון המצטיין בבתי הספר שלו לכדורגל, תוך יומרה להתחרות במסגרות האירופיות. ג'ילס החתים את השחקנים האיריים הבינלאומיים ריי טרייסי, אימון דונפי ופאדי מוליגאן, ובעונה הראשונה לאחר המהפכה, זכה המועדון בגביע האירי הראשון שלו מזה שנים רבות. למרות הצלחה במפעל הגביע, והצלחה יחסית בתוצאות במפעלים האירופיים, הגישה השמרנית של ג'ילס עם החזקה בכדור, הוכחה כבלתי מוצלחת, וב-3 בפברואר 1983 סיים את תפקידו במועדון.
תקופת ה"ארבע ברצף" (1983 - 1987).
בקיץ 1983 החליף ג'ים מקלאפלין את נואל קמפבל כמאמן הרוברס, אחרי תקופה מוצלחת שלו ביריבתה לליגה דאנדוק. הבעלים לואיס קילקוין החליט להגדיל את התקציב, מה שנתן אור ירוק למקלאפלין להחליף כמעט את כל השחקנים במועדון ולבצע מהפך בסגל, כולל את שיחרורו של יקיר האוהדים אלאן אונ'יל. לסגל החדש הביא המאמן את ליאם באקלי, הארי קיני, אלן קמפבל ופיטר אקלס. בנוסף רכש שחקנים אחרים בולטים מהליגה כמו ג'ודי בירין ונואל קינג מדאנדוק, מיק נוויל מדרוגהדה, והשלישייה אביסטון, בריידי ואובראין מבוהמיאנס, ובנוסף את אנטו ויילן ונוויל סטידמן ממנ'צסטר יונייטד ות'וראלס טאון.
ההשקעה הרבה השתלמה ובאפריל 1984 זכה המועדון בתואר האליפות האירי הראשון שלו מזה 20 שנים, כשמי שהניף את צלחת האליפות הוא הקפטן פאט ביירין. לאחר מכן זכה המועדון בעוד שלושה תוארי אליפות רצופים בשלוש העונות הבאות, והשלימם לדאבל לאחר שזכה גם בגביעים האיריים בעונות אלו, מה שהשלים את רצף ארבע האליפויות של המועדון, הישג חסר תקדים בכדורגל האירי. ב-1987 החליף דרמוט קילי את מקלאפלין שהחליט לעבור לדרי סיטי.
בתקופה זו שמכונה בהיסטוריית המועדון תקופת ה"ארבע ברצף", ניצחו ה"הופס" 74 משחקי ליגה מתוך 100, בין השנים 1983 ועד 1987, והפסידו משחק אחד בלבד בתקופה זו.
שנים ללא בית (1987 - 2009).
מעט לאחר זכיית המועדון בתואר האליפות ה-14 שלו, הבעלים לואיס קילקוין הודיע כי קבוצת הבעלים שלהם ה"קילקוינים", מוכרים את אצטדיון גלנמור פארק, שהם רכשו לאחרונה מקבוצת הישועים. את עונת 1987/1988 נאלצה הקבוצה לשחק באצטדיון טולקה פארק, אותו האוהדים של השמרוק רוברס השאירו ריק בעקבות חרם בהם נקט הגרעין הקשה של האוהדים והקהל במחאה על התנהלות הבעלים ומכירת האצטדיון הביתי. לאחר מחאות אלו החליטו הקילקוינים למכור את המועדון לאיש עסקים מדבלין, ג'ון מקנמארה, שהציע רעיון שנוי במחלוקת להעביר את משחקיה הביתיים של הקבוצה לדיילימאונט פארק, אצטדיונה הביתי של הבוהמיאנס, יריבתה המרה של הרוברס. לאחר הצבעה בקרב גרעיני האוהדים של הרוברס, הוחלט על הרמת החרם מעל המועדון, אך משחקיה הביתיים של הקבוצה נערכו באצטדיון פייבסבורו, וכמות האוהדים עדיין הייתה קטנה מאוד והרבה אוהדים החליטו לא להגיע ולהשאיר את המשחקים ריקים מקהל יחסית.