בית הדין שוכן ב"ארמון השלום", בו גם נמצאת "אקדמיית האג לחוק בין-לאומי", מרכז פרטי ללימודי החוק הבין-לאומי, ואף מספר מבין השופטים הנוכחיים בבית הדין הם בוגרי האקדמיה או מרצים לשעבר. לבית הדין שני תפקידים: לדון במחלוקות שבין מדינות, שכוללות לעיתים מקרים של פשעי מלחמה, פלישות מדיניות בלתי-חוקיות, טיהור אתני, ועוד, ומתן חוות דעת בסוגיות משפטיות שמופנות אליו על ידי העצרת הכללית או על ידי מועצת הביטחון. בית הדין מורכב מ-15 שופטים שנבחרים במשותף על ידי העצרת הכללית ומועצת הביטחון לכהונה בת תשע שנים, שבסיומה ניתן לבחור בהם מחדש. מדי שלוש שנים נערכות בחירות לחמישה שופטים. ההחלטות מתקבלות ברוב קולות של השופטים היושבים בדין, ואם הדעות נחלקות שווה בשווה, לנשיא קול מכריע. כאשר מדינה אינה מצייתת לפסק דין של בית הדין, רשאית מועצת הביטחון לנקוט צעדים כנגד מדינה זו. לחוות דעת אין אופי מחייב.
בית דין המקורב אל ה-ICJ הוא בית הדין הפלילי הבין-לאומי (ICC), שהחל לפעול בשנת 2002 בעקבות דיונים בין-לאומיים שיזמה העצרת הכללית. ה-ICC הוא בית הדין הבין-לאומי הקבוע הראשון שמטרתו היא לשפוט את אלו המבצעים את החמורים בפשעים תחת החוק הבין-לאומי, כמו פשעי מלחמה, פשעים נגד האנושות, ורצח עם. ה-ICC הוא עצמאי מהאו"ם מבחינה ניהולית, כלומר יש לו צוות עובדים ותקציב עצמאי ומנותק מהאו"ם. אך עדיין קיים קשר בין הגופים, מתוקף תפקידם, וישנו "הסכם יחסים" בין ה-ICC והאו"ם, שקובע כיצד מתקשרים שני הגופים זה עם זה מבחינה חוקית.
מועצת הביטחון.
תפקיד מועצת הביטחון הוא לשמור על השלום והביטחון בין מדינות. בעוד שזרועות אחרות של האו"ם יכולות רק לקבוע המלצות לממשלות החברות בארגון, למועצת הביטחון יש את הכוח לקבל החלטות מחייבות שהממשלות החברות באו"ם צריכות לבצע. מקרה ידוע של ניצול כוחה של מועצת הביטחון הוא בעניין דרום אפריקה, שעליה הטילה המועצה סנקציות רבות שהחלישו אותה וסייעו בהפלת משטר האפרטהייד בה.
במועצה יכולות להיות חברות עד 15 מדינות, שמתוכן 5 הן חברות קבועות – סין, צרפת, רוסיה, בריטניה וארצות הברית, והעשר האחרות אינן קבועות. נכון לשנת 2019, המדינות הלא-קבועות במועצת הביטחון הן רפובליקת חוף השנהב, רפובליקת גינאה המשוונית, רפובליקת דרום אפריקה, מדינת כווית, רפובליקת אינדונזיה, הרפובליקה של פרו, הרפובליקה הדומיניקנית, ממלכת בלגיה, הרפובליקה הפדרלית של גרמניה ורפובליקת פולין. כל אחת מכהנת כשנתיים, ולאחר שנתיים של כהונה היא עוזבת. העזיבה מתבצעת כך שלא כל 10 המדינות עוזבות יחד, אלא כל 5 מדינות עוזבות באותה הפעם, בזמן ש-5 האחרות נותרות. לחמש החברות הקבועות יש את היכולת להטיל וטו על החלטות מהותיות (לא פרוצדוריאליות) שהמועצה מקבלת, ובכך למנוע את הוצאתה לפועל. חברה קבועה אינה יכולה להטיל וטו על עצם הדיון בנושא מסוים שאינה מסכימה לו. עשרת המקומות שאינם קבועים במועצת הביטחון נתפסים לתקופה בת שנתיים, על ידי מדינות שנבחרו לכך בעצרת הכללית. הבחירה מתבצעת על בסיס אזורי (מכל אזור בעולם נבחרת מדינה). נשיאות מועצת הביטחון עוברת בין המדינות החברות במועצה מדי חודש, והסבב מתבצע על פי סדר אלפביתי.
המועצה הכלכלית-חברתית.
המועצה הכלכלית-חברתית (ECOSOC) מסייעת לעצרת הכללית בקידום שיתוף פעולה ופיתוח בין-לאומי בנושאי כלכלה וחברה. במועצה חברות 45 מדינות, הנבחרות על ידי העצרת הכללית לכהונה בת שלוש שנים. נשיא המועצה נבחר לכהונה בת שנה אחת, ומדינת המוצא שלו תמיד נמנית בין הכוחות הכלכליים הקטנים או הבינוניים מבין אלו של המדינות במועצה. המועצה נפגשת אחת לשנה בחודש יולי, ל"מושב" בן ארבעה שבועות. תפקידיה של המועצה הם בין היתר איסוף מידע, ייעוץ למדינות חברות, ונתינת המלצות. עם זאת, תפקידה העיקרי והחשוב ביותר של המועצה הוא לתאם בין הפעילויות החופפות הנעשות בגופים שונים באו"ם. כמו כן, כוחה של המועצה הוא בהקמת מוסדות וגופים שונים בתחומי הכלכלה, החברה, זכויות האדם, הבריאות וכו'. הקמת גופים אלו מקדמת את הטיפול בבעיות בתחומים הללו ומאפשרת את פיתרונן או הקלתן באופן ממוקד ונמרץ יותר בטרם הוקם הגוף. לפיכך, למועצה יש מספר גופי משנה, ביניהם הוועדה למעמד האישה, הוועדה לזכויות האדם, הוועדה לענייני סחר בין-לאומי, הוועדה לאנרגיה מתחדשת וכן נציב האו"ם לענייני פליטים.
ארגונים מתמחים.
ישנם סוכנויות ומשרדי או"ם רבים שמטרתם לפעול בנושאים מסוימים. כמה מהארגונים המוכרים לציבור הם הסוכנות הבין-לאומית לאנרגיה אטומית, ארגון המזון והחקלאות, אונסק"ו (ארגון החינוך, המדע והתרבות של האו"ם), הבנק העולמי וארגון הבריאות העולמי.
דרך ארגונים אלו מבצע האו"ם את מרבית עבודתו ההומניטרית, כמו תוכניות חיסון המוניות (דרך ארגון הבריאות), מיגור הרעב (דרך תוכנית המזון העולמית), והגנה על אוכלוסייה פגיעה וחסרת בית (דרך נציבות האו"ם לפליטים).
מגילת האומות המאוחדות קובעת שכל אחת מהזרועות המרכזיות באו"ם יכולה להקים "סוכנויות מתמחות" (specialized agencies) שונות, במטרה לבצע דרכה את מטרתה המקורית של אותה זרוע מרכזית.
חברות.
עם הצטרפותה של דרום סודאן ביולי 2011, ישנן כעת 193 מדינות חברות באומות המאוחדות. כל המדינות הן מדינות מוכרות וריבוניות.
מגילת האומות המאוחדות מתארת את חוקי הקבלה לארגון:
מדינות משקיפות.
בנוסף ל-193 המדינות החברות, ישנן שתי מדינות משקיפות: קריית הוותיקן והרשות הפלסטינית. נציגיהן רשאים לנאום, אך אין להן יכולת להצביע באף מוסד של האו"ם.
ה-G77 (Group of 77) היא קואליציה רופפת של מדינות מתפתחות, שיעודה הוא קידום האינטרסים הכלכליים המשותפים לחבריה ויצירת מעמד משותף משופר בניהול משא ומתן באו"ם, מתוקף האינטרסים הקיומיים המשותפים של המדינות הללו. 77 מדינות ייסדו את הארגון, אך הוא הורחב מאז ומונה, נכון ל-2014, 136 מדינות חברות. הארגון נוסד על-פי המודל של ה-G7, שהורחב ל-8 חברות ומכונה G8.
פעילויות.
שמירה על השלום והביטחון.
לאחר אישורה של מועצת הביטחון, שולח האו"ם כוחות "שמירת שלום" לאזורים בהם קונפליקטים צבאיים בין חמושים נגמרו או הושהו. זאת, כדי לאכוף את תנאי הסכמי הפסקת-האש שהתקבלו, וכדי לשדל את הצדדים הלוחמים להימנע מחידוש העוינות והלחימה. מאחר שלאו"ם אין צבא משלו, המדינות החברות באו"ם תורמות כוחות צבאיים למשימות שמירת השלום. חיילי כוחות אלו, הנקראים גם "הקסדות הכחולות", מקבלים מדליה בשם "מדליית האומות המאוחדות" (שהיא איננה מדליה צבאית, מכיוון שהאו"ם איננו מדינה ריבונית עם צבא, אלא זו מדליה בין-לאומית). "כוחות שמירת השלום", כשלם וכאבסטרקט, קיבלו פרס נובל לשלום בשנת 1988.
מייסדי האו"ם ראו בחזונם את הארגון כפועל למנוע עימותים בין-לאומיים, ולהפיכת המלחמות העתידיות לבלתי-אפשריות, אך פרוץ המלחמה הקרה הפכה את הסכמי שמירת-השלום קשים ליישום עד בלתי-אפשריים, מכיוון שהעולם התחלק לשני מחנות עוינים. בעקבות סיומה של המלחמה הקרה, נשמעו קריאות בקהילייה הבין-לאומית לאו"ם להפוך לסוכנות שמטרתה השגת שלום עולמי – שכן ישנם עשרות עימותים צבאיים בעולם. ואכן, אופיו של האו"ם כ"שומר שלום", שעומעם בעת המלחמה הקרה, חזר והתייצב ככזה לאחריה.
מחקר של תאגיד ראנד משנת 2005 מצא כי בממוצע הצליח האו"ם בכשני שלישים ממאמצי שמירת-השלום שלו. המחקר השווה את מאמצי האו"ם לבניית מדינות (צעדים שונים שמטרתם הפלת הרודנות והדיקטטורה, השגת דמוקרטיה וכו') לאלו של ארצות הברית, ומצא ששבעה מתוך שמונת המקרים שבהם התערב האו"ם נמצאים כעת במצב של שלום, לעומת ארבעה מתוך שמונה של ארצות הברית. "הדו"ח לביטחון האדם" שיצא גם הוא בשנת 2005 דיווח על ירידה במספר המלחמות, רציחות-עם ופגיעה בזכויות האדם מאז סוף המלחמה הקרה. הדו"ח הציג הוכחה (אמנם נסיבתית), שאקטיביזם בין-לאומי – סוג הפעילות של האו"ם – הוא הסיבה העיקרית לירידה במספר העימותים המזוינים מאז סוף המלחמה הקרה. בהיסטוריה של האו"ם ניתן למצוא גם מצבים בהם הארגון לא רק פעל לשמירת השלום אלא השתתף בעימות עצמו, לדוגמה במלחמת קוריאה (בה כוחות או"ם לקחו חלק משמעותי בלחימה עצמה), ובמלחמת המפרץ הראשונה.
האו"ם גם נתפס כאחראי לכמה כישלונות בתחום. במקרים רבים המדינות החברות במועצת הביטחון כשלו בהשגת החלטה במועצה, או שכשלו באכיפתה, בעיה הנובעת מאופיו בין-לאומי של הארגון. וויכוחים ואי-הסכמות בדיוני מועצת הביטחון בנוגע לפעולות והתערבויות צבאיות נתפסו בעולם ככשלונות ישירים של המאמץ להשגת השלום, כגון אי-מניעת רצח העם ברואנדה, אי-שליחת סיוע הומניטרי וההתערבות בכללה במלחמת קונגו השנייה, אי-ההתערבות בטבח סרברניצה, אף על פי שבמקום היו חיילי או"ם עם הסמכות להשתמש בכוח, הכישלון בשליחת מזון לאנשים המתים מרעב בסומליה, הכישלון ביישום הקשורות לסכסוך ישראלי-פלסטיני, והכישלון המתמשך במניעת רצח העם, ואף שליחת סיוע, בדארפור. חיילים מכוחות שמירת השלום של האו"ם אף הואשמו באונס ילדים, התעללות מינית ושידול לזנות במהלך מבצעי "שמירת שלום" שונים, החל משנת 2003: בקונגו, האיטי, ליבריה, סודאן, בורונדי וחוף השנהב. דורי גולד, שגריר ישראל לאו"ם בעבר, ביקר בשנת 2004 את מדיניות ה"רלטיביזם המוסרי" של האו"ם, לדבריו. כמו כן, הגדיר דורי את הזמנת יאסר ערפאת לנאום בפני העצרת הכללית בשנת 1998 כ"נקודת השפל בהיסטוריית האומות המאוחדות".