בתענית אסתר ה'תרס"ז (1907), נולדה בתו הצעירה, אסתר יעל. בהמשך אותה השנה, נישאה בתו הגדולה פרידה חנה לדודה, ישראל שמעון רבינוביץ' תאומים, בנו של האדר"ת וממייסדי העיר בת ים.
באותה תקופה תמך באופן מסויג בבית ספר "תחכמוני" ששילב בין לימודי קודש ("לחינוך האדם להיות ישר וטוב") ולימודי חול ("למלחמת החיים"), בשל התפיסה שיש לקדש את החומר במיוחד בארץ ישראל, דבר שעורר התנגדות מצד חלקם של רבני ירושלים. במקביל שימש כמנהל הרוחני של תלמוד תורה שערי תורה. הוא יצר קשרים עם מנהיגי הפועלים ותמך בהתיישבות החקלאית. במסגרת זאת תמך בהיתרים על פי ההלכה לצורך קיום ההתיישבות, כגון בפולמוס השמיטה ובהיתר המכירה, שרבנים בולטים תמכו בו גם לפניו. הוא ביסס היתר זה מבחינה הלכתית בספר שבת הארץ. כמו כן התיר את השימוש בפסח בשמן שומשום שנכבש בכבישה קרה ללא מגע מים, אף שהשומשום הוא ממשפחת הקטניות שאסורה בפסח באכילה לאשכנזים.
בשנת ה'תרס"ט (1909) הקים הרב קוק ביפו ישיבה משלו שבה למדו כעשרים תלמידים מירושלים ומיפו, בהם הרב יהושע קניאל והלל פרלמן. הישיבה שכנה בבית המדרש "ברכות" בקומה העליונה בבניין של תלמוד תורה "שערי תורה". הרב קוק מסר לתלמידים שיעור יומי, ועל סגל המורים נמנו בין השאר הרבנים שלמה זלמן שך ושם טוב גפן. למעשה היה זה מבנה של שני אגפים שבאגף שבקומה השנייה שכנה דירתו, ובאגף השני היה מקום לימודו וישיבת בית דינו. שם הייתה הישיבה. הבית שבו התגורר הרב שוכן ברחוב אחווה 21 בשכונת נווה צדק הכלולה בתל אביב־יפו דהיום.
בחורף ה'תרע"ד (1913) יצא הרב קוק, כרבן של המושבות, בראש משלחת רבנים למסע המושבות הראשון. המסע נמשך כחודש. במסעות אלו ניסה הרב קוק לחזק את הקשר בין החלוצים לתורה ומצוות. במסגרת תפקיד זה הוא גם עסק בגישור סכסוכים במושבות.
תקופת מלחמת העולם הראשונה 1914–1918.
בתמוז ה'תרע"ד (1914) יצא לכנס העולמי של אגודת ישראל בגרמניה בשל רצונו לקרבם למפעל הציוני, ובשל טיפול רפואי שנזקקו לו הוא ואשתו. עם פרוץ מלחמת העולם הראשונה ריחפה עליו סכנת מאסר כנתין של רוסיה, מעצמת אויב. הוא נסע עם אשתו לשווייץ הנייטרלית, ונאלץ להישאר בסנט גלן, שם פעל כדי לסייע ליישוב שבארץ. בשנת ה'תרע"ו (1916) הציעה לו קהילת מחזיקי הדת שבלונדון להיות רבה, והוא ניאות בתנאי שיחזור ליפו בהזדמנות הראשונה שיוכל. בהיותו בלונדון הקים מספר ישיבות. בקהילת המהגרים המזרח-אירופאים העניים שלו, גינה את האליטה של אנגלים בני דת משה שטענו כנגד התנועה הציונית, וניסו להשפיע על הממשל הבריטי להימנע מהצהרת בלפור. בעקבות גילוי דעת של הרב קוק בבתי הכנסת, נשלחו תזכירים רבים לחוגי השלטון מהקהילות היהודיות, שבהם הודגש כי דת ישראל קשורה בלאומיות הישראלית ובארץ ישראל.
בתקופה זו היה מנותק משלש בנותיו. דאגתו אליהן ניכרת באגרותיו.
בשנת 1918 הוזמן הרב קוק על ידי הרב ד"ר דב (ברנרד) רבל (רעוועל) לבקר בארצות הברית. זו הייתה הצעה נדיבה מטעמו של הרב רעוועל וגיסיו, האחים טרוויס, לממש את חזונו של הרב קוק ולממן את ההקמה של הישיבה המרכזית העולמית בירושלים.
תקופת ירושלים.
בתום המלחמה, לאחר תקופה של כשלוש שנים בלונדון, חזר הרב קוק לארץ ישראל. מתקופה זו ועד למותו מיעט בכתיבת דברי מחשבה ועסק בכתיבת "הלכה ברורה" על הש"ס, ובפעילות בשדה הציבורי.
תנועת דגל ירושלים.
אף שהרב קוק חיבב את תנועת המזרחי, וראה באנשיה שותפים לדרכו, הוא חלק לעיתים על דרכה. על פי השקפתו, תנועת המזרחי הייתה פשרנית מדי, שכן היא לא החמירה מספיק בענייני הלכה־הנהגה, והתבטלה בפני ההסתדרות הכללית. במיוחד חרתה לו הקביעה של אנשי ההסתדרות הציונית כי , והוא ניסה לדרבן מספר פעמים את אנשי תנועת המזרחי למחות כנגדה ולהתנער ממנה.
ב־1918, לאחר 15 שנה של פעילות פוליטית, ביקש לייסד הסתדרות, דגל ירושלים שמה, אשר תאגד בתוכה את כל היהודים שומרי התורה אשר אוהדים את המפעל הציוני. רצונו היה שתנועה זו תבטא , ושאל תנועה זו יוכלו להתכנס גם אנשי תנועת אגודת ישראל וגם אנשי המזרחי, ובמקביל לשמור על השתייכותם הקודמת. בעזרת תלמידיו הקרובים - הרב יעקב משה חרל"פ, הרב דוד כהן ובנו הרב צבי יהודה קוק, הוקמו סניפים בארץ ישראל, שווייץ, הולנד, אנגליה וארצות הברית. התנועה לא הצליחה להתרומם ונעלמה מהר מאוד מהנוף הפוליטי הציוני. התנועה התבססה בעיקר על אישיותו הכריזמטית של הרב קוק, כך שלמען הצלחתה היה על הרב קוק להישאר במערב אירופה. רצונו של הרב קוק לחזור ולפעול בארץ ישראל, חוסר יכולת או רצון להתמודד עם מיסודה של תנועה פוליטית, התנגדות המפלגות הדתיות האחרות, וגם עצירת פעילותה למען לא תפגע בתנועת המזרחי היו בעוכרי התנועה החדשה.
רב ראשי.
בשנת 1919 נענה להזמנתם של ראשי המוסדות והישיבות ורוב רבני ירושלים להתמנות לרבה של העיר. לאחר שביוזמת הרב צבי פסח פרנק נשלח אליו כתב הכתרה בחתימתם. בכך אייש משרה שהייתה מיותמת מספר שנים, מאז פטירת הרב שמואל סלנט. בהמשך כונן את מוסד הרבנות הראשית, שבה ראה שלב ראשון לייסוד הסנהדרין, ונהיה הרב הראשי האשכנזי הראשון של ארץ ישראל (1921). את הרבנות הראשית ראה כהנהגה רוחנית כלל עולמית ולא כמנגנון ביורוקרטי. בבחירות לאספת הנבחרים הראשונה שהתקיימה ב־1920, התנגד מלכתחילה למתן זכות בחירה לנשים - לבחור ולהיבחר. בעמדה זו אחזו רוב הרבנים, בניגוד לדעת רבים מחברי המזרחי. עם זאת, הוא אמר גם שהדבר אינו אסור, ובכל אופן "אין הדבר כדאי לעשות ממנו עיקר גדול".
סמוך להתמנותו לרבה של ירושלים נהרגה בתו הצעירה אסתר־יעל בעת שנפלה ממדרגות הבית הזמני ברחוב הנביאים שבו התגוררו.
ייסוד ישיבת מרכז הרב.
פעילותה המעשית של הישיבה החלה בקיץ תרפ"ג בעת שהחלו ללמוד בה תלמידים בודדים. קבוצה גדולה יותר הגיעה ללמוד בתרפ"ד (1924). השם שהעניק הרב קוק לישיבתו הוא "הישיבה המרכזית העולמית" אך היא התפרסמה בשם "מרכז הרב". הישיבה התאפיינה בשפה העברית שהייתה מדוברת בה, ובלימודי הגות ומחשבה. שאיפתה נוסחה: את ניסוח תוכנית הלימודים של הישיבה הטיל על תלמידו הרב דוד כהן. בתוכנית הלימודים, היו בנוסף ללימודים הישיבתיים המקובלים, לימודי תנ"ך, פילוסופיה, היסטוריה ולימודי מדעים (בוטניקה וביולוגיה), אולם לימודי החול לא יושמו בפועל. הרב יעקב משה חרל"פ שימש כראש הישיבה בפועל, עד לפטירתו בשנת תשי"ב.
בחיי הרב קוק הגיע מספר התלמידים בישיבה לכשמונים. הישיבה נוהלה על ידי הרב קוק באופן אבהי. לעיתים דאג הרב קוק לתלמידיו מבחינה חומרית בסיועה של אשתו, שלקחה על עצמה את הטיפול בחורים שבגרבי תלמידיו. הרב קוק עודד את בוגרי הישיבה לשמש כרבנים, כמורים וכאנשי ציבור, ואכן רבים מהם שימשו כרבנים בארץ ישראל ומחוצה לה.
פעילות מעשית למען הישיבות.
הרב קוק ראה בישיבות את הבסיס הרוחני של עם ישראל, ופעל ליסוד מוסדות חינוך תורניים ולמען החזקתן של ישיבות. בחורף 1924 יצא לארצות הברית בראש משלחת רבנים שבה השתתפו רבה של קובנה, הרב אברהם דוב כהנא שפירא, והרב משה מרדכי אפשטיין, ראש ישיבת סלובודקה, במטרה להשיג מימון למוסדות תורניים. הרב קוק התקבל בכבוד רב, ובין היתר קיבל אזרחות כבוד של העיר ניו יורק. הוא נפגש גם עם נשיא ארצות הברית קלווין קולידג' בבית הלבן.
ייסד את מכון "הלכה ברורה", העוסק בהעמדת הפסיקה ההלכתית מול מסקנות סוגיות התלמוד עליהן היא מבוססת, עבודה שהקדיש לה חלק ניכר מזמנו ושראה בה בניין התורה לדורות. בתרצ"ג ייסד בירושלים את מכון הארי פישל, למחקר מדעי של היהדות, ובמיוחד תורה שבעל פה, והעמיד בראשו את תלמידו הרב שאול ליברמן, שנחשב לאחד מגדולי חוקרי התלמוד וספרות התורה שבעל פה.
בפרעות תרפ"ט (1929) ובשאלת מעמדו של הכותל המערבי.
כאיש ציבור הגיב הרב קוק למעשיהם והחלטותיהם של הבריטים, ונודע בעמידתו האיתנה מול ממשלת המנדט הבריטי בארץ ישראל.
ב-15 באוגוסט 1929, תשעה באב, נערכה תהלוכה גדולה של נוער בית"ר ליד הכותל המערבי, שנועדה למחות נגד שגרת ההתנכלויות של מוסלמים למתפללים היהודים ולהפגין ריבונות יהודית במקום. במוצאי הצום, התראיין הרב קוק לעיתון דואר היום. בראיון הביע את תודתו לנוער המפגין וקרא לפנות את שכונת המוגרבים שלמרגלות הכותל: . גם בהזדמנויות נוספות הדגיש הרב שהדרישה היהודית היא להרחיב את רחבת התפילה שליד הכותל, וציפה שהמהלך יבוצע על ידי ממשלת המנדט תוך פיצוי התושבים.
בזמן מאורעות ה'תרפ"ט שהו רוב מנהיגי היישוב בקונגרס הציוני ה־16 שנערך בציריך. הרב קוק טלפן בשבת לממלא מקום הנציב העליון, הארי לוק, וכאשר הלה הציב עמדה מהססת בקשר לדיכוי הפורעים, ציווה עליו לירות ברוצחים בשם המצפון האנושי. במהלך הפוגרום שלח הרב טלגרף לראשי קהילות יהודיות ברחבי העולם והזהיר כי . זמן קצר לאחר המאורעות בירושלים, מחה הרב באוזני המושל הצבאי לואי ג'ין בולס אשר נתן הסכמה למופתי לבצע עבודות בכותל המערבי ללא צורך ברשות מן היהודים. הוא הזהירו: מאז ניהל חלופת מכתבים ושיחות עם גורמים ביישוב ובשלטון בדבר מעמדו של המקום וקדושתו. כאשר באה אליו משלחת של ראשי המוסדות הציוניים כדי לשכנעו לוותר על הבעלות על הכותל ולהסתפק בזכות להתפלל במקום, אמר: בוועדת החקירה הבריטית אמר:
באותה תקופה הוצע לו להיות אדמו"ר של בית אברהם אך הוא סירב.
רצח ארלוזורוב 1933.