בניגוד לאזור מכה ומדינה שבסעודיה שם התחוללו מלחמות קשות במסגרת התפשטות האסלאם, הכיבוש האסלאמי בתימן לא היה כרוך במלחמות רחבות היקף. החמיירים קיבלו עליהם ללא התנגדות רבה את דת מוחמד. על פי מקורות האסלאם מוחמד הורה למפקדי צבאו בתימן לא לכפות את הדת החדשה על היהודים והנוצרים, כנראה עקב מעמדם החשוב בכלכלה. ב-250 השנה הראשונות לאחר הופעתו, האסלאם המשיך להיות בתימן במעמד של חוסר עצמאות. בתקופה זו הייתה תימן מחוז נידח של הח'ליפות המוסלמית, גם כאשר דמשק הייתה בירתה תחת השושלת האומיית (עד 750) וגם כאשר בגדאד הייתה בירתה (תחת בית עבאס).
העובדה שתימן הייתה רחוקה ממרכז הח'ליפות בבגדאד גרמה שבמאה התשיעית כבר נחלש כוחו של הנציב מטעם השלטון המרכזי. שושלת בני יעפור המקומית (847-998) הפכה באותה עת להיות גורם הכוח העיקרי שמרכזו בצנעא. במקביל במקומות שונים בארץ הוחזק השלטון המרכזי בידי משפחות חשובות, כגון הזיידים במרכזם בזביד (819-1018). מאבקים מרים פרצו בעיקר בין התאגדויות השבטים בצפון הארץ, עד שראשיהם החליטו לזמן את ראש הזרם הזיידי, מצאצאי הנביא מוחמד, האימאם יחיא בן חוסיין שנודע לימים בכינויו אלהאדי אלי אלחק. יחיא הגיע לצפון תימן מאזור מכה ומדינה כדי לפשר בין השבטים ובכך הקים את המדינה הזיידית בתימן, שהתקיימה בגלגולים שונים עד מלחמת האזרחים ב-1962.
באותה תקופה הגיע האסלאם לתימן באופן מעשי שכן עד אז האסלאם היה נתפש בקרב האנשים כמחויבות שבטית למוחמד. יחיא השתלט על הארץ ולזמן קצר אף כבש את צנעא. הוא החל בהקמת מדינה ומוסדות ממשל המבוססת על מחלקות ממשלתיות גביית מסים וכו'. וכל אלה, על פי המסורת הקדומה מימי הנביא. בשנת 910 מת יחיא וכוחם של הזיידים נחלש, והם נדחקו אל חלקה הצפוני של תימן שם הם נהנו מתמיכתם של שבטי המדאן ובכיל. בזביד עלתה שושלת בני נג'טח (1021-1158) ובצנעא שושלת הצולייחים (1037-1088) ולאחר מכן שושלת בני חמדאן (1099-1173). בעיר הנמל החשובה עדן ששימשה נתיב מסחר ימי חשוב עלתה שושלת זורייע (1083-1173). בתקופה זו הנוצרים נעלמו מתימן, התגבש אופייה המוסלמי והיהודים נותרו בה המרכיב הלא מוסלמי היחיד. ב-1159 הדיח חבר כת מוסלמית קיצונית את השליט מבני נג'אח שבזביד והוא ויורשו פעלו להחדרת האסלאם ביתר שאת. דברי עידוד קיבלו יהודי תימן שסבלו באותה עת "באיגרת תימן" של הרמב"ם. שושלת המהדים שהתבססה לה בזביד (1159-1173) הסתיימה לה עם כיבוש תימן בידי האיובים המצריים בשנת 1173 מידי שליטי תימן באותה עת: המהדים בזביד, בני חמדאן בצנעא ובני זורייע שבעדן.
השושלת הרסולית הטורקמנית ששלטה מ-1229 עד 1454 הסירה את השלטון האיובי הזר מתימן ושלטה עליה מחצרמוות עד מכה. בימיה הדלדלו קשרי החוץ. באמצע המאה ה-15, עם עליית שושלת בני טאהר (1454-1517) התעניינות המעצמות הזרות בתימן גברה והפורטוגזים ניסו לכבוש את עדן ללא הצלחה. לאחר עשרות שנים של שלטון לא יציב שוב השתלטו העות'מאנים על הארץ (1546-1635). חיסול הכוח של השושלות המקומיות השונות בתימן יצר חלל ריק שנתמלא אך מיד על ידי האימאמים הזיידים שהיו דחוקים מאות שנים בצפון תימן. וכך, תחת שלטונו של האימאם אלמתוכל יחיא שרף אלדין שבירתו הייתה חג'ה, הם הרחיבו שליטתם בכיוון דרום ולחצו על השליטים הזרים (העות'מאנים) שבירתם צנעא. בסוף כבשו הזיידים בראשות האימאם קאסם את צנעא מידי העות'מאנים ב-1629, וב-1635 הם יצאו מתימן לגמרי. השושלת הקסאמית שלטה בתימן 250 שנה. ככלל זו הייתה תקופת הסתגרות, עם זאת, פעילות מסחר של חברות מאנגליה צרפת והולנד הביא לקיום קשרים מוגבלים עם חו"ל. שלטון השושלת הקאסמית הגיע לשיאו בימי האימאם איסמאעיל. אבל, בתחילת המאה ה-18 יציבות השלטון הזיידי החלה להתערער. חבלים רבים התנתקו עקב מרידות מושלים מקומיים שרצו יתר עצמאות. הדבר הביא לירידה בהכנסות ממסים וכתוצאה מכך האימאם בצנעא לא יכול היה לשלם מענקים שנתיים לשבטי הצפון כדי לקבל תמיכתם. שבטים הללו "פיצו" את עצמם באמצעות פשיטות על צנעא הבירה ולקחת תמלוגים באמצעות ביזה.
העת החדשה.
התערערות השלטון המרכזי התגברה במחצית המאה ה-19 בגלל פעילותן של הווהאבים בצפון, הבריטים בדרום (עדן 1839), המצרים במערב ולאחר מכן הטורקים העות'מאנים. אט אט חדרו אל המרכזים העירוניים של תימן רעיונות ומנהגים אירופים בהשפעת סוחרים חוקרים ותיירים. הזיידים לא הרפו מן המאבק לגרשם, וב-1891 החל מרד אינטנסיבי בראשות אלמנצור מוחמד בן יחיא חמיד א-דין , שהוכרז כאימאם בעיר הצפונית קפלה. זה האחרון מת ב-1904 ואת מקומו ירש בנו האימאם אלמתוכל יחיא. הוא המשיך במרד בעות'מאנים, וב-1905 כבש את צנעא מידי הטורקים למשך 6 חודשים. בהמשך חתם על הסדר עם השלטון הטורקי, הסכם דעאן , שבמסגרתו קיבל עליו את השלטון העות'מאני באזורים השפאעיים של תימן, והטורקים מצדם הכירו בו כמנהיג הקהילה הזיידית. אף שבטווח הקצר המשיכו העות'מאנים לשלוט, גם בשטחים הזיידיים, בהסכם מיצב עצמו האימאם יחיא בתור מנהיג בעל מעמד מוכר.
במלחמת העולם הראשונה, תימן, השולטת על פתחו של ים סוף, היוותה זירת קרבות בין הבריטים ותומכיהם המקומיים, לבין העות'מאנים ותומכיהם המקומיים. קרבות אלה, בהיקף קטן יחסית, לא שינו את הסטטוס קוו.
שלטונו המלא של האימאם יחיא הושג ב-1918 עם סיומה של מלחמת העולם הראשונה, וכך הפכה תימן לטריטוריה העות'מאנית הראשונה שהופכת למדינה עצמאית. בתחילה פעל יחיא להשלטת משטרו ברחבי תימן. במלחמה עם כוחות זרים נחל הפסד אך מעולם לא הפסיק לפעול. שלטונו התאפיין בהסתגרות קיצונית. שום אזרח לא היה רשאי להיכנס לתימן ללא אישור מהמלך עצמו. המלך מנע מודרניזציה. הוא היה שליט תיאוקרטי ואוטוריטרי והשליט את המסורת הזיידית על העם. הוא ניצל את עמו מבחינה כלכלית, גבה מיסים גבוהים ומנע ייבוא מוצרי מותרות. זה עורר תסיסה בקרב העם ותנועת "התימנים החופשיים" הייתה מעורבת בניסיון הפיכה שהסתיים ברציחתו ב-17 בפברואר 1948. לאחר מותו של יחיא, שלקח תחת חסותו את היהודים, גברו הפרעות נגד היהודים, דבר שזירז את עלייתם במסגרתם מבצע על כנפי נשרים.
את יחיא ירש אחמד בנו, שהמשיך במדיניות הדיכוי של אביו. ב-1962, לאחר מותו של אחמד, מונה נסיך הכתר, מוחמד אל באדר, ליורשו. אולם מיד עם מינויו פרץ מרד ומוחמד אל באדר הודח בידי הכוחות הרפובליקניים אשר תמכו בהקמת משטר נשיאותי ונתמכו על ידי מצרים של נאצר. תנועה מהפכנית זו הקימה את "הרפובליקה הערבית של תימן". אולם, הכוחות המלוכניים בראשות אל באדר, שנתמכו על ידי סעודיה וממלכת ירדן (וקבלו סיוע גם מישראל) לא ויתרו. כך החלה מלחמת האזרחים של צפון תימן, כשמצרים בהנהגת גמאל עבד אל נאצר תמכה במורדים. מצרים של נאצר שלחה כוחות רבים כדי לעזור לרפובליקנים, אך הוציאה את כוחותיה ב-1967 לאחר תבוסתה במלחמת ששת הימים. יציאת הכוחות המצרים לא הביאה לניצחון המלוכנים, והעימות נסתיים ב-1970 דווקא בניצחון הרפובליקנים.
באותה התקופה, דרום תימן נשלטה עדיין על ידי הממלכה המאוחדת אשר שלטה באזור חסות בסביבתה של עיר הנמל הדרומית עדן, במהלך המאה ה-19, ועזבה בשנת 1967 את השטח שבו הוקמה מדינת דרום תימן. לאחר שלוש שנים, החליטה ממשלת דרום תימן לפעול על פי האידאולוגיה הקומוניסטית, בנוסח השלטון בברית המועצות, מדינה שעמה יצרה יחסי ידידות קרובים. ב-1990, לאחר 20 שנות עוינות הדדית, התאחדו תימן הדרומית ותימן הצפונית למדינה אחת. גורמים שהחליטו לפרוש מתימן הדרומית ולהקים תנועה עצמאית בשנת 1994, דוכאה על ידי השלטון המרכזי. בשנים האחרונות ניהל המשטר בתימן מלחמה קשה בצפון המדינה כנגד שבטים מוסלמים שיעים קיצוניים, שמנסים להקים מדינת שריעה אסלאמית שיעית, בתמיכתה ובמימונה של איראן, שמנסה לייצא את המהפכה השיעית למדינות אחרות. שבטים שיעים קיצונים אלה גם גירשו משפחות יהודיות מבתיהן, תוך איומים ברצח. נשיא תימן, עלי עבדאללה סאלח (אף הוא שיעי), פעל אישית לסייע להעברת המשפחות היהודיות למקום בטוח, ואלה רוכזו בעיקר בעיר הבירה.
בשנת 2011 החל גל מחאות והפגנות בתימן נגד הנשיא, עלי עבדאללה סאלח. ההפגנות התחוללו כחלק מגל המחאות בארצות ערב, בד בבד עם המהפכה בתוניסיה, ההפיכה במצרים, ומחאות במדינות אחרות. בחלוף הזמן, התגבר והתחזק גל המחאות ההמוניות, אשר בצירוף שביתות ועימותים עם הצבא, הפך להתקוממות עממית או למלחמת אזרחים, בין השבטים תומכי הנשיא לשבטים של מתנגדיו. ב-3 ביוני הופגז ארמונו של הנשיא סאלח על ידי מתנגדיו. הוא נפצע קשה והוטס לערב הסעודית לקבלת טיפול רפואי. בזמן היעדרותו הוחלף סאלח בסגנו, עבד אל ראב מנסור אל האדי. ב-23 בספטמבר חזר סאלח לתימן ושב לכהן כנשיא. ב-23 בנובמבר חתם סאלח בטקס שנערך בערב הסעודית בחסות בית המלוכה הסעודי ובנוכחות מנהיגי האופוזיציה בתימן על הסכם העברת סמכויות לסגנו אל האדי. ההסכם נוסח על ידי מדינות המפרץ וקבע כי סאלח ישמור זמנית על תוארו, אך יעביר את סמכויותיו במהלך החודש הקרוב לסגנו. תוך שלושה חודשים, יתקיימו בחירות בתימן לתפקיד הנשיא, שבהן לא יתמודד סאלח אך ההסכם העניק לו ולמקורביו חסינות מפני העמדה לדין. "הפילוג של עשרת החודשים האחרונים השפיע באופן משמעותי על תימן בתחומי התרבות, הפיתוח והפוליטיקה", אמר סאלח. רבים מבני משפחתו של סאלח ממשיכים לאייש תפקידי מפתח בצבא ובכוחות הביטחון, שמפולגים בין תומכיו למתנגדיו. נשיא ארצות הברית, ברק אובמה, אמר: "ארצות הברית מברכת על החלטת הנשיא להעביר מיד את סמכויותיו לסגנו. זה צעד חשוב לעם התימני, שמגיעה לו ההזדמנות לקבוע את עתידו".