לפי הרודוטוס, יישבו הפלסגים מלמנוס את חצי האי, וסטראבון דיווח על חמש ערים ששכנו בו, אך הארכאולוגים לא הצליחו לאתרן. בשנת 492 לפנה"ס, בעת מסע מרדוניוס לענישת יוון, נטרף הצי הפרסי בסערה בעת ששט סביב הר אתוס. 300 מאוניותיו טבעו ו-20,000 איש קיפחו את חייהם. לקראת פלישתו ליוון ב-480 לפנה"ס חפר חשיארש הראשון במשך שלוש שנים תעלה שחצתה את חצי האי אתוס כדי להימנע מן השיט המסוכן. אירוע דומה אירע גם בשנת 411 לפנה"ס, כאשר 50 ספינות ספרטניות טבעו סמוך לאתוס.
ייתכן שהנזירים הראשונים הגיעו אל האי במאה ה-3, אך לבטח ישבו בו לצידה של אוכלוסייה עובדת אלילים בתקופת שלטונו של הקיסר קונסטנטינוס בתחילת המאה ה-4. תחת שלטונו של יוליאנוס הכופר נהרסו הכנסיות בהר אתוס והנוצרים נאלצו להתחבא ביערות ובמקומות מבודדים, אך תאודוסיוס הראשון הפך את הקערה על פיה, והרס את המקדשים הפגאניים.
עם ההתפשטות המוסלמית החל במאה ה-7 היה הר אתוס יעד להתקפות, והיישוב בו נפגע. מאידך, ידוע שנזירים שנמלטו מפני המוסלמים, בין היתר מארץ ישראל, הגיעו אל הר אתוס והתיישבו בו. עוד ידוע ממספר דיווחים, בין היתר של תאופאנס המוודה ("Θεοφάνης ο Ομολογητής") שחי בסוף המאה ה-8, כי התפרצות הר הגעש בסנטוריני בשנת 726 נראתה מהר אתוס, דבר המראה כי בשנה זו היה המקום מיושב. נזירים מהר אתוס השתתפו גם בוועידה האקומנית השביעית, ועידת ניקיאה השנייה, שהתקיימה בניקיאה (היא איזניק בטורקיה של ימינו), בשנת 787.
הקמת המדינה הנזירית.
ממספר מסמכים ידוע על הקמת שני מנזרים קטנים בהר אתוס במאה ה-9, ובשנת 883 הוציא הקיסר בסיליוס הראשון צו חתום בבולה ובו קבע כי ההר הקדוש הוא "מדינה נזירית" ואסר על בעלי מלאכה אחרים להתיישב בו. בשנים 942–944 מופו גבולותיה של המדינה הנזירית – גבולות העומדים בעינם עד היום – והיישוב קארייס נחשב לבירתה ולמרכזה המנהלי כבר אז. בשנת 958 הגיע הנזיר אתנאסיוס הקדוש מאתוס ("Άγιος Αθανάσιος ο Αθωνίτης") להר אתוס, והקים בסיועו של ידידו, הקיסר הביזנטי ניקופורוס השני, את מנזר מגיסטי לאוורה ("Μεγίστη Λαύρα"), כיום המנזר העתיק והגדול בחצי האי. הקמת המנזר הגדול נחשבה לצעד מהפכני ולוותה במחלוקת בין תומכיו לבין גורמים שמרניים אשר סברו כי שינוי זה יפגע באורחות החיים במקום.
צו חתום בבולה של הקיסר יוחנן הראשון צימיסקס קבע בשנת 972 כי הר אתוס הוא מדינה נזירית אוטונומית, ומעמד זה אושר ב-1095 גם על ידי הקיסר אלכסיוס הראשון. בנוסף, הוקמה ב-1045 "המועצה הקדושה" (ראו להלן) בצו של קונסטנטינוס התשיעי. רוב המנזרים הקיימים כיום נוסדו במאה ה-10 או במאה ה-11, ותקופה זו נחשבת לתחילת שגשוגו של הר אתוס, שהיה לישות הנזירית הגדולה בעולם באותה עת, ואוכלוסייתו הוערכה בכ-3,000 איש.
במשך מאות שנים חסו נזירי הר אתוס בצילה של האימפריה הביזנטית, עד שזו חדלה להתקיים לאחר מסע הצלב הרביעי במאה ה-13 והוחלפה באימפריה הלטינית.
התקופה העות'מאנית.
במאה ה-13 ידעה ההתיישבות הנזירית תקופה קשה ונפגעה מהתקפות שודדי ים קטלאנים ולטינים. סכסוך עם הקיסר הביזנטי מיכאל השמיני פלאולוגוס, על רקע התפייסותו עם הכנסייה המערבית ב-1277, עלה לנזירים בהר אתוס במחיר כבד. הקיסר שלח את צבאו אל חצי האי, העלה מנזרים באש וטבח בנזירים. התקפות שודדי הים נמשכו גם בתחילת המאה ה-14, והגיעו לשיאן בשנים 1307 ו-1308. מכה נוספת שניחתה כמעט על כל המנזרים היא מכת השריפות, אשר כילו ושבו וכילו את המנזרים או חלקים גדולים מהם. השריפות הכו במקום משך אלף שנים והמשיכו בכך גם במהלך המאה ה-20.
תקופה של שלטון עות'מאני באתוס החלה ב-1380. עד שנת 1403 התאפיין השלטון העות'מאני ברדיפת הנזירים, אך משכבש מורט השני את הר אתוס בשנית ב-1424, הצהירו לו הנזירים אמונים. בתמורה הכיר הסולטאן ברכושם של הנזירים, והדבר אושר גם על ידי מהמט השני "הכובש" לאחר כיבוש איסטנבול ב-1453. המנזרים שגשגו במהלך המאה ה-15 והמאה ה-16. בעקבות כיבוש סרביה בידי העות'מאנים הגיעו נזירים סרבים רבים לאתוס. הסולטאן סלים הראשון הטיב במיוחד עם מנזר קְסִירוֹפּוֹטָאמוּ, והוציא צו לפיו כל אימת שמקומות התפילה במנזר יפגעו באש או בדרך אחרת, הם ייבנו מחדש. עוד סייע הסולטאן למנזר במימון והעניק לו זכויות שונות.
מאידך הוטל על המנזרים מיסוי כבד, ולעיתים הוחרמו מהם חלקות אדמה, מה שגרם למשבר כלכלי במאה ה-17. משבר זה התפתח למרות סיוע כספי נדיב מצארי רוסיה ומנסיכים מוולאכיה, סרביה ומולדובה. כתוצאה מכך נאלצו המנזרים ללוות כספים, דבר שהעצים את הקשיים הכלכליים ואט אט החלו כל המנזרים לעבור ממבנה ארגוני קוינוביוני למבנה אידיוריתמי, המקורב יותר לאורח החיים ההרמיטי (ראו גם לאורה המהווה דרך ביניים נוספת). בשיטה האידיוריתמית הנזירים הם בעלי רכוש ואחראים לצרכיהם; הם סועדים בגפם ונפגשים עם עמיתיהם רק בשעת התפילה בכנסייה. אוכלוסיית הנזירים הלכה והצטמצמה, והר אתוס החל להתאושש כלכלית רק במאה ה-19.
השלטון היווני.
במלחמת הבלקן הראשונה ב-1912 נסוגו העות'מאנים מהר אתוס, והאזור, כמו כל מקדוניה היוונית, היה לחלק מיוון במסגרת הסכם בוקרשט מ-10 באוגוסט 1913. ב-3 באוקטובר 1913 הכריזה מועצת הר אתוס ("המועצה הקדושה") כי היא מכירה בריבונות היוונית בהר אתוס והצהירה על נאמנותה למלכי יוון, "יורשיהם של הקיסרים אשר בנו את המנזרים". ממשלת יוון מצידה הכירה במעמדו האוטונומי של ההר, וזה אושר בחוקת יוון אשר קבעה כי מושל מטעם המדינה שמקום מושבו בקארייס ייצג אותה בתחומי המדינה הנזירית.
בחודש יוני 1913 התגלע סכסוך בין שתי קבוצות נזירים במנזר איו פנטליימונוס הרוסי בהר אתוס. הרקע למאבק היה התמיכה שהפגינו חלק מהנזירים באימיאסלאוויה (רוסית Имяславие – "מילת השם"), זרם נוצרי אורתודוקסי שהחל להתפתח ברוסיה ב-1907 אך נאסר מכוח צו כנסייתי ב-1912. האימיאסלאוויה טענה כי שמו של האל קדם לו וכי הוא האל עצמו, וכן כי ידיעת השם המפורש מאפשרת לבעל המידע לעשות ניסים. יתר הנזירים במנזר סברו כי אמונה זו היא פנתאיזם ואינה עולה בקנה אחד עם הנצרות.
סכסוך על רקע בחירתו של נזיר שתמך באימיאסלאוויה כראש המנזר הוביל לתלונה בשגרירות רוסיה ביוון, וממשלת רוסיה הזדרזה ושלחה צי קטן של אוניות אל המנזר שהביא עמו את הארכיבישוף של העיר וולוגדה מלווה בכוח צבאי. הארכיבישוף ניסה לשכנע את תומכי האימיאסלאוויה לחזור בהם מאמונתם אך לשווא, וב-31 ביולי 1913 התקיפו החיילים הרוסים את המנזר, ונהגו באלימות בתושביו אף על פי שאלה לא גילו התנגדות של ממש. 4 נזירים נהרגו באירוע, 48 נפצעו, ו-840 נזירים נעצרו ונלקחו באמצע חודש יולי לאודסה. יתר הנזירים במנזר חתמו על הצהרה לפיה הם מתנערים מהאימיאסלאוויה. רק שמונה נזירים הורשו לשוב למנזר והיתר הוגלו או נאסרו.
אוכלוסיית הר אתוס הגיעה לשיא גודלה בשנת 1917, אז מנתה כ-10,000 נזירים ו-500 עד 600 בעלי מלאכה נוספים. בעשורים שלאחר מכן החל היישוב הנזירי בהר אתוס לשקוע. נזירים חדשים לא הצטרפו לקהילה וגילם הממוצע של הנזירים עמד בשנת 1963, עת המדינה הנזירית חגגה אלף שנות קיום, על 55 שנים. אף על פי שהר אתוס ידע תקופות קשות בעבר, סברו רבים כי זהו סופה של המדינה הנזירית ויש שטענו כי חגיגות האלף הן טקס האשכבה של ההר הקדוש.
בשנת 1972 נרשמה לראשונה מזה כמה עשורים עלייה במספר הנזירים: נמנו בהר אתוס 1146 נזירים, נזיר אחד יותר מאשר ב-1971. מאז ועד 1996 הצטרפו 1,036 נזירים חדשים לקהילה ושינו את חתך הגילאים במקום. הנזירים החדשים לא התחלקו באופן שווה בין עשרים המנזרים: בעוד שמספר הנזירים במנזר סימונופטרה גדל פי שלושה, במנזרים אחרים המשיכה מגמת הירידה במספרם. עם זאת הגירה פנימית איזנה את המצב במידה רבה. עוד התגלה כי למעלה מרבע מהנזירים החדשים הם בעלי תואר אקדמאי, וזאת בניגוד לבודדים בלבד בעבר, ובנוסף, נזירים חדשים רבים הגיעו ממדינות שאינן אורתודוקסיות, כמו מדינות מערב אירופה, אפריקה, סוריה, פרו וקנדה. בשנת 1990 נוסדה אגודת "ידידי הר אתוס" ובה חבר, בין היתר, הנסיך צ'ארלס ועד למותו היה גם אביו, פיליפ, דוכס אדינבורו חבר באגודה.
עם קבלת יוון לאיחוד האירופי ב-1981 נותר הר אתוס מחוץ לו, ומעמדו בעניין זה דומה לזה של גרינלנד בדנמרק.
משטר ומנהל.
מעמדו של הר אתוס הוסדר בחוקת יוון, המקדישה לו את סעיף 105 מחוקת 1975. זה קובע בתחילתו כי:
מוסדות המדינה.
המועצה הקדושה ("Ιερά Κοινότητα"), שבה חבר נציג מכל אחד מעשרים המנזרים, היא מעין גוף מחוקק בהר אתוס. כל מנזר רשאי לקבוע את זהות נציגו למועצה, והיא מתחילה לתפקד בכל שנה בחודש ינואר. "המינהל הקדוש" ובו ארבעה חברים שאחד מהם הוא ה"פרוטוס" ("Πρώτος") אוחז בסמכויות הביצועיות. חברי המינהל הקדוש מתמנים ברוטציה על ידי כל המנזרים כך שאחת לחמש שנים יש לכל מנזר נציג במינהל הקדוש. המינהל מתחיל לפעול בכל שנה ב-1 ביוני ומסיים את תפקידו ב-31 במאי בשנה שלאחר מכן, וחבריו מתגוררים משך שנת כהונתם בבירה קארייס. בנוסף קיימת וועדה מיוחדת המתכנסת פעמיים בשנה – 15 יום אחרי הפסחא האורתודוקסי וב-20 באוגוסט – ובה משתתפים עשרים ראשי המנזרים. ועדה זו היא הגוף המשפטי והחקיקתי הבכיר ביותר בהר הקדוש.
מושל מטעם ממשלת יוון אוחז בסמכויות החילוניות האזרחיות ומייצג את הממשל המרכזי במדינה האוטונומית הנזירית. בתוקף תפקידו אחראי המושל באופן בלעדי על הסדר הציבורי ועל הביטחון בהר אתוס. חוקת יוון מעניקה אזרחות יוונית באופן אוטומטי לכל אדם המתחיל את תקופת הכשרתו באחד המנזרים.