לצד חתימת אמנה בין הממשלה לסוכנות, קיימת קביעה ברורה של חלוקת העיסוקים בין הממשלה לבין הסוכנות.
הקמת הסוכנות היהודית.
בשנת 1920 אושר המנדט הבריטי על ארץ ישראל, על ידי "מועצת הברית של מדינות ההסכמה" (המוסד שקדם לחבר הלאומים). סעיף 4 לכתב המנדט קובע ש"סוכנות יהודית מתאימה תוכר כגוף ציבורי לצורך ייעוץ ושיתוף פעולה עם שלטונות המנדט בנושאים כלכליים, חברתיים ואחרים, העלולים להשפיע על הקמת הבית הלאומי היהודי ועל האינטרסים של האוכלוסייה היהודית בארץ ישראל". כתב המנדט מוסיף וקובע שבפועל ההסתדרות הציונית תוכר כסוכנות זו. ואכן, עד שנת 1929 מילאה "ההנהלה הציונית" את התפקיד.
אחרי ובעקבות משבר העלייה הרביעית, חיפשה ההנהלה הציונית מקורות כספיים לחיזוקו של היישוב. חיים ויצמן האמין שבעזרת יהודים עשירים יוכל לגייס סכומים נאים למימון המפעל הציוני ולכן יצר קשר עם לואי מרשל, שכיהן כראש הוועד היהודי-אמריקני (ארגון יהודי-אמריקאי לא ציוני שנועד לשמור על זכויותיהם של יהודים במדינות מחוץ לארצות הברית). ב-2 בינואר 1927 יישבו שני המנהיגים את חילוקי הדעות בינם לבין עצמם וחתמו על הסכם (הסכם ויצמן-מרשל) שהביא להקמת הסוכנות היהודית. בעקבות הסכם זה קמו שתי ועדות, "ועדת הסוכנות" ו"ועדת המומחים" שהגיעו לארץ ישראל לשם איסוף נתונים והסקת מסקנות. הוועדות נועדו להיות בלתי מפלגתיות והוטל עליהן להמליץ על פעולות אפשריות המתאימות לארץ ולתנאיה ולהמליץ גם על התקציב הנדרש למימוש ההמלצות. "ועדת הסוכנות" שכללה מומחים בתחומי החקלאות, החרושת והמסחר סיימה את עבודתה ב-1928. בהתאם להמלצותיה שפורסמו באפריל 1928 הוחלט על הקמת "סוכנות יהודית מורחבת" שתכלול בנוסף גם נציגים לא ציוניים, יהודים עשירים שמוכנים לתמוך במדיניות הציונית. ההמלצות זכו לביקורת מצד נציגים של ההנהגה הציונית, בהם ברל כצנלסון ושלמה קפלנסקי. ב-11 באוגוסט 1929, במסגרת הקונגרס הציוני ה-16 שהתכנס בציריך, הכריזו נציגים מ-26 מדינות על הקמת "הסוכנות היהודית לארץ ישראל". לנשיא הסוכנות נתמנה ד"ר חיים ויצמן שהיה גם נשיא ההסתדרות הציונית העולמית. בין האישים הלא ציונים שהשתתפו בוועידת היסוד בלטו פרופ' אלברט איינשטיין, לאון בלום ולואי מרשל מראשי יהדות ארצות הברית. האגודה המרכזית של אזרחים גרמנים בני הדת היהודית קיימה דיון בשאלת ההצטרפות לסוכנות היהודית והוחלט ברוב של 48 נגד 35 שלא להצטרף אליה.
פעילות הסוכנות בתקופת המנדט הבריטי.
עם הקמת הסוכנות כוננו בה מחלקות. המחלקה המדינית עסקה ביחסי החוץ של היישוב. המחלקות האחרות היו מחלקת הביטחון, מחלקת העלייה ומחלקת חינוך.
בשעה בה החלה הסוכנות לפעול, ענייני היישוב נוהלו על ידי הוועד הלאומי שנבחר בתהליך דמוקרטי על ידי אנשי היישוב היהודי בארץ ישראל. בין הגופים נוצר מתח ומחלוקת על רקע אי בהירות בחלוקת הסמכויות.
ב-1937, עקב חילוקי דעות בהגדרת מעמד היישוב כ"מדינה בדרך" והגדרת מעמדה של הסוכנות כהנהגתה (או כממשלתה) של "המדינה שבדרך", התפרקה הסוכנות היהודית המורחבת. נעשה ב-1938 ניסיון להחייאת הסוכנות המורחבת אולם ניסיון זה נכשל וכתוצאה מכך עזבו הגורמים הלא-ציוניים את הסוכנות כך שבפועל נוצרה זהות בין הנהלת הסוכנות היהודית להסתדרות הציונית העולמית.
הסוכנות היהודית ביחד עם הוועד הלאומי היוו את מועצת העם, ששימשה למעשה "הממשלה של המדינה שבדרך". הוועד הלאומי, בשיתוף פעולה הדוק מאוד עם הסוכנות, היה אחראי על ניהול שוטף של כל העניינים הפנימיים של הקהילה היהודית בארץ. הם ניהלו בין היתר את:
יושב-ראש הסוכנות במשך מרבית שנות פעילותה עד הקמת המדינה היה דוד בן-גוריון (בשנים 1935 - 1948). עם ראשי המחלקה המדינית שלה נמנו חיים ארלוזורוב (בשנים 1931–1933) ומשה שרת (בשנים 1933 - 1948). עם הקמת המדינה, העבירה הסוכנות את רוב תפקידיה לממשלה הזמנית בראשותו של דוד בן-גוריון.
ועדת אונסקו"פ.
ועדת אונסקו"פ שהייתה ועדת חקירה בינלאומית שמונתה על ידי העצרת הכללית של האומות המאוחדות במאי 1947 כדי לבחון את שאלת ארץ ישראל, בעקבות בקשתה של ממשלת בריטניה לחוות דעת של האו"ם, לאחר שלא הושגה הסכמה על הפתרון העדיף. אבא אבן ודוד הורוביץ מונו לקציני קישור מטעם המחלקה המדינית של הסוכנות היהודית ומשה טוב שהיה דובר ספרדית הצטרף לנציגים מאמריקה הלטינית. פועלם של נציגי הסוכנות השפיע רבות על חברי הוועדה והוביל לקבלת תוכנית החלוקה.
פיצוץ בניין הסוכנות היהודית בירושלים.
"בית המוסדות הלאומיים" בירושלים, שבו שכנו משרדי הנהלת הסוכנות (וכן משרדי הנהלת קרן היסוד והוועד הלאומי) היה ידוע זה מכבר כמרכז השלטון היהודי בארץ-ישראל. נהג ערבי של הקונסוליה האמריקנית בירושלים הצליח להערים על אנשי "ההגנה" ועל שומרי הבניין והחדיר מכונית תופת אל החצר הפנימית המשותפת, ב-11 במרץ 1948. בפיצוץ נהרגו 12 בני אדם (בהם אריה לייב יפה, מנהל קרן היסוד), ונפצעו כ-40.
לאחר קום המדינה.
החל מקום המדינה, תפקידיה העיקריים של הסוכנות היהודית מתרכזים בתחומי העלייה והקליטה, חינוך יהודי-ציוני בתפוצות וחיזוק החברה הישראלית. מדינת ישראל הפקידה בידי הסוכנות היהודית את הטיפול האדמיניסטרטיבי במועמדים לעלייה באמצעות משרדיה בחוץ לארץ, בהם פועלים שליחי העלייה והעובדים המקומיים.
בעקבות הקמתה של מדינת ישראל הוסדר מעמדן של ההסתדרות הציונית העולמית ושל הסוכנות היהודית במדינה, בשנת 1952, בחוק מעמדן של ההסתדרות הציונית העולמית ושל הסוכנות היהודית לארץ-ישראל.
כגוף מיישב.
בשנים הראשונות שלאחר הקמת המדינה, קיבלה הסוכנות תפקיד של גוף מיישב ועסקה בהקמת מושבים, בעיקר על האדמות שהופקדו בידי האפוטרופוס לנכסי נפקדים לאחר מלחמת העצמאות. המושג נכסי נפקדים מתייחס לנכסים אשר נעזבו במהלך מלחמת העצמאות על ידי ערבים תושבי ארץ-ישראל המנדטורית. המתיישבים במושבים חתמו על חוזה יסוד, המכונה "החוזה המשולש", שהיה חוזה בין הסוכנות היהודית "כגוף מיישב", אגודת המושב ורשות הפיתוח או הקק"ל שהקצו את הקרקע (ומתחילת שנות ה-60, עם הקמת מינהל מקרקעי ישראל - עם המינהל). החל במחצית שנות ה-70 של המאה ה-20 הפסיקה הסוכנות לפעול כגוף מיישב, היא ביקשה לקבל חזרה את הכספים שהשקיעה בהקמת המושבים וקבעה כי מרבית המושבים הם כבר "מבוססים" כלכלית ויכולים להחזיר כספים אלו. בעלי המשקים והאגודות השיתופיות במושבים אולצו לחתום על "חוזי ביסוס", בו חויבו להחזיר כספים אלו. בשנות ה-80 של המאה ה-20, נקלעו מרבית המושבים במדינה למשבר חובות עקב האינפלציה הגובה בשנים אלו. כ-20% מסך חובות ב"הסדר חובות המושבים", מהלך שיזמה ממשלת ישראל במטרה להסדיר חובות אלו, היו לסוכנות.
בשנת 1992, התקבל גם "חוק הסדרים במגזר החקלאי המשפחתי" (חוק גל) שבמסגרתו הוקם מנגנון לניהול ההסדר. בשנים שלאחר קבלת החוק, לא נקבעו תקנות ברורות לגבי דרכי חלוקת החובות וייעוד התמורות ממימוש הנכסים. עקב מחלוקת לגבי מתן קדימות לסוכנות היהודית בקבלת החובות ומהותם. החובות שהיו למעשה הלוואות הביסוס שנתנה למתיישבים על ידי הסוכנות. לפי תנאי ההלוואות, 75% מהן היו אמורות להימחק על פני תקופה בת 30 שנה, אם 25% מהחובות היו נפרעים כסדרם במהלך אותו הזמן. בשנת 2004 דחתה שופטת בית המשפט המחוזי בתל אביב, הילה גרסטל, את בקשת הסוכנות לביטול החלטות המשקם עו"ד אופיר כץ לגבי מושב יתד, שניתנו בשנת 2002, בטענה לחוסר סמכות. כץ קבע, כי בנוגע לכספים שהצטברו בקופת מינהלת ההסדרים, בנק החקלאות לישראל, שלטובתו נרשמה על ידי המושב איגרת חוב בינואר 1984, הוא הנושה המובטח בנוגע לכספים שהתקבלו מהחברים בגין חובותיהם למושב יתד. הסוכנות כפרה בסמכות המשקם לחלק את הסכומים המופקדים ולהכריע בזהות הנושה המועדף. בהחלטה שנייה קבע כץ, כי מיליון שקל שהצטברו בקופה יחולק בהתאם להחלטותיו. בבקשה לביטול ההחלטות טענה הסוכנות בין היתר, כי סמכות המשקם בנוגע לחלוקת הכספים מוגבלת לאמור בחוק ההסדרים, וכפופה לתקנות שהיו אמורות להיות מותקנות.
במרץ 2004 דחה בית המשפט העליון את טענת הסוכנות כי איגרות החוב עליהן חתומים המושבים לטובת הסוכנות היהודית אינן מיועדות להבטיח חובות עתידיים של המושב לסוכנות, עבור סכומים שהסוכנות טוענת להם מתוך כספים שהתקבלו עקב שינוי ייעוד קרקע. בנובמבר 2016, דחה בית המשפט העליון את דרישתה הכספית של הסוכנות לקבל פיצויים על קרקעות שהופקעו מהמושבים, בפסק דין עקרוני. פסק דין היה בנוגע למקרה בו הופקעו, בשנת 1994, 540 דונם מאדמות מושב יגל ו- 640 דונם מאדמות מושב צפריה לצורך הרחבת נמל התעופה בן-גוריון עליהם קיבלו פיצויי כספי. הסוכנות טענה כי היות שהיא בעלת זכויות בקרקע המופקעת זכאית אף היא לפיצוי בגין ההפקעות. בית המשפט קבע כי אין למושב חובה לתת את פיצויי הפקעה העולים על חובותיו הכספיים לסוכנות בהסתמכה על חוזה ההתיישבות.
בתחום העלייה והקליטה.
בשנת 1967 הוקם משרד העלייה והקליטה שקיבל את האחראיות לעליית יהודים מהתפוצות וקליטתם במדינה. עם זאת הסוכנות היהודית ממשיכה להפעיל 35 מרכזי קליטה, המעניקים לכעשרת אלפים עולים בכל שנה את ביתם הראשון. במסגרת פרויקט "בבית ביחד" מלווים ישראלים ותיקים את משפחות העולים החדשים בצעדיהן הראשונים בארץ, מחברים אותם לרשת החברתית ומסייעים להסתגלותם. הורים לחיילים בודדים מגיעים ארצה במסגרת פרויקט "קשת" לבקר את ילדיהם.