הצורך בסלילת הכביש עלה בעקבות המרד הערבי, אז נסגרה הדרך לתל אביב, שעברה דרך שייח' מוניס, ותושבי הרצליה ורמת השרון נאלצו לנסוע דרך רעננה, רמתיים, פתח תקווה ורמת גן, דרך שאורכה 35 ק"מ ונמשכה לעיתים יום שלם. ועדי היישובים החליטו על סלילת הכביש, שעלותו נאמדה ב-19 אלף לא"י. הרצליה מימנה כשני שלישים מהעלות, ורמת השרון את השליש הנותר. לשם כך, משכן הוועד של רמת השרון את מכון המים של המושבה. חברת סולל בונה התחילה בסלילה כבר בקיץ 1936, אך העבודות נתקלו בקשיים כבר מהרגע הראשון: הערבים התנגדו לכך שהכביש יעבור בשטחי הווקף, מושל המחוז עמד על כך שהכביש יעבור בשטחי שייח מוניס ולבסוף התברר כי העלויות גבוהות מהמשוער, והוועדים לא עמדו בהן. העבודות חודשו רק ב-1939, לאחר שהוועדים לקחו הלוואה, ולאחר שהוטל מס נסיעה על קווי אגד, לצורך מימון הסלילה. סוגיית הקרקעות נפתרה בסיועו של משה שרת. באוקטובר 1941 נחנך הכביש, בשם "דרך הרצליה", והדרך לתל אביב התקצרה ל-12 ק"מ.