בשנת 1937 הצטרף ל"הגנה" ושימש כמפקד עמדת שמירה בכפר חסידים. לאחר תקופת הכשרה בפתח תקווה שימש במשך שנה כרועה צאן בגניגר. בשנת 1938 השתתף במסגרת "חומה ומגדל” בהקמת ההתיישבות נווה איתן, שם שימש כשומר רכוב על סוס. בתקופה זו, בעקבות מעורבותו בקטטה המונית עם ערבים תושבי הסביבה, נאסר למשך שבועיים על ידי משטרת המנדט.
בשנת 1941 הצטרף לפלמ"ח ושירת בפלוגה א' בפיקודו של יגאל אלון. בשנת 1942 סיים קורס מפקדי כיתות.
בחודש יולי 1942 בהיות המחלקה בכפר גלעדי הוזמן לפגישה עם יצחק שדה, מפקד הפלמ"ח ונשאל למה התנדב? ומה ברצונו לעשות? תשובתו הייתה: . באותו חודש ערכו הגרמנים את האקציה הגדולה בווארשה בה גורשו רוב יהודי העיר בכללם כל בני משפחתו לטרבלינקה ונרצחו שם.
בשנת 1943 מונה למפקד מחלקה ברמת יוחנן. בתחילת שנת 1944 התנדב למחלקה הבלקנית והתכונן לאימוני צניחה במצרים אך הבריטים ביטלו את התוכנית.
פלי"ם.
עם ביטול אימוני הצניחה, בתחילת שנת 1944 הצטרף ינאי לקורס מפקדי סירות השלישי של הפלי"ם בקיסריה. עם סיום מלחמת העולם נודע לינאי כי כל משפחתו נרצחה על ידי הנאצים:
באוגוסט 1945 הצטרף ינאי לקורס השלישי מתוך ארבעה 'קורסי חובלים' שבוצעו על ידי הפלי"ם. הקורס התנהל בצורה חשאית, במסגרת בית הספר הימי ליד הטכניון, בשכונת הדר הכרמל בחיפה. הלימודים בהדרכתו של שמואל טנקוס ארכו שישה חודשים. בכל מחזור התחנכו 15 אנשי פלי"ם, שהוכשרו כימאים שיוכלו לפקד על ספינות מעפילים. הלימודים היו ברמה גבוהה וכללו מתמטיקה, ניווט חופי ואסטרונומי, מבנה אוניות, ארגון הובלת אנשים באנייה: חלוקת מזון ומים. מגורי החניכים היו בקיבוץ יגור וכל יום היו נוסעים ולפעמים הולכים מהלימודים לקיבוץ.
בסיומו נשלח לרכז את פעילות הפלוגה הימית של הפועל על גדות הירקון, בתל אביב. ינאי היה מאוכזב מכך שנשאר בארץ בעוד חבריו לקורס נשלחו לפעילות המוסד לעלייה ב' באירופה. אך התגאה בכך שחניכיו בפלוגה הימית היו הראשונים להתנדב ולהמשיך את פעילות הפלי"ם.
בסוף אוגוסט השתתף בהורדתם לחוף שדות-ים של מעפילי אנית המעפילים "דלין", הראשונה שהגיעה מאירופה ועליה ניצולי השואה. בליל 31 באוקטובר – 1 בנובמבר 1945 השתתף בפעולתה הראשונה של "תנועת המרי העברי" ופיקד על חוליה שפוצצה קטע של מסילת רכבת בין הצוק של זכרון יעקב לכניסה לבנימינה.
אונית המעפילים חביבה רייק.
בחורף 1946 נשלח ינאי בפקודת הפלי"ם לאסמאעיליה, מוסווה כחייל בריטי, על מנת לצאת משם לאירופה למשימה ראשונה של ליווי אוניית מעפילים לארץ ישראל. בין 15 באפריל – 30 במאי 1946, פיקחו אריה קפלן (קיפי), ינאי ושליחי המוסד לעלייה ב' על הכנתן בפיראוס של אניות המעפילים "חביבה רייק" ו"רפי" לקראת הפלגתן. בליל 2 ביוני 1946 הועלו המעפילים על הספינות בכף סוניון שבדרום אטיקה, כ-70 קילומטרים דרומית לאתונה. הן יצאו לים, 'חביבה רייק' בפיקודו של אריה קפלן ו'רפי' בפיקודו של ינאי. ב-5 ביוני, בלב ים, הועברו מעפילי "רפי" וינאי אל "חביבה רייק" ו”רפי” חזרה ליוון בפיקודו של הגדעוני אברהם ליחובסקי המכונה 'נור' . הבריטים לכדו את "חביבה רייק" ב-8 ביוני וגררו אותה לנמל חיפה. בחיפה התחזו קפלן, ינאי והגדעוני שלום בורשטין, לעובדי נמל וכך התחמקו ממעצר. המעפילים הורדו מאונייה והועברו למחנה המעצר בעתלית.
מעצר והתחמקות – ב-29 ביוני ב"שבת השחורה", נאסר ינאי בדגניה א' על ידי הבריטים ונכלא במחנה המעצר בעתלית. בעת פינוי עצורי 'השבת השחורה' למחנה מעצר אחר, הסתתר בתקרת אחד הצריפים במחנה המעצר בעתלית שם שהה שלושה ימים עד שהצליח לברוח מהמחנה בתוך משאית אספקה ריקה.
אנית המעפילים הנרייטה סולד.
ביולי 1946 נשלח על ידי דוד נמרי (דווידקה) למשימה שנייה של ליווי אניית מעפילים. גם הפעם הוכנו בנמל פיראוס, בפיקוח לוי שוורץ, ינאי ואריה קפלן, שתי אניות לקליטת המעפילים: "הנרייטה סולד", ו"רפי 2". בחודשי הקיץ נאספו כ-400 ילדים ניצולי השואה, בעיקר מיוון והונגריה. ב-1 באוגוסט 1946 הועמסו המעפילים על האניות בסמוך לכף סוניון, והן יצאו לים. 'הנרייטה סאלד' בפיקודו של קפלן וינאי כמפקד 'רפי', כשבין המעפילים תינוקות וילדים רבים. במרחק 150 מייל מחופי הארץ הועברו מעפילי "רפי 2” וינאי אל "הנרייטה סולד" ו"רפי 2” חזרה ליוון כשעליה בנימין ירושלמי ומרבית הצוות היווני. "הנרייטה סולד" התגלתה על ידי משחתת בריטית סמוך לחופי קיסריה, הפליגה לחיפה ושם הטילה עוגן לצד אניית המעפילים "יגור", שיצאה במקביל מאירופה ונתפסה גם היא על ידי הבריטים.
החשש היה שהמעפילים יגורשו למחנות המעצר בקפריסין. מפקדי האוניה קיבלו הוראות מהחוף להתנגד להשתלטות הבריטים על האניה, לנסות לפוצץ את אניית הגירוש אליה יועברו המעפילים, ולהמשיך עם המעפילים למחנות המעצר בקפריסין. תרמיל ובו חומר נפץ הוברח עם האספקה אל "הנרייטה סולד".
המעפילים אורגנו למאבק נגד השתלטות הבריטים על "הנרייטה סולד". בלילה שבין 11 ו-12 באוגוסט 1946 הציבו הבריטים ארבע משחתות סביב "הנרייטה סולד" ואת הסיירת "אייג'קס" (HMS Ajax) והחלו בניסיונות השתלטות שנתקלו בהתנגדות מצד המעפילים. עם אור יום ביקש קפטן ה"אייג'קס" רשות לסייר על "הנרייטה סולד" והציע ל'אריה קפלן להעביר את המעפילים המותשים לאוניה גדולה יותר שם יקבלו מים, מזון וטיפול, אך הוא סירב להבטיח שלא יגורשו מהארץ. קפלן הודיע לו על המשך ההתנגדות.
שש סירות בריטיות מהירות הורדו מהמשחתות, הקיפו את "הנרייטה סולד" והטילו לתוכה רימוני עשן. אחד הרימונים חדר לקבינה בה הוחזקו תינוקות וילדים והיה חשש שאלו יחנקו למוות. ינאי יצא לחרטום וסימן כניעה. "הנרייטה סולד" נגררה לנמל חיפה והמעפילים הועברו תוך התנגדות לאונית-הגירוש "אמפייר ריוול" (Empire Rival). חומר הנפץ לפיצוץ "אמפייר ריוול" הועלה אליה בעזרת המעפילים אך לא הופעל מאחר שהאוניה הייתה מלאה במעפילי אניית המעפילים "יגור" ו"הנרייטה סולד" והיה חשש שיתרחש אסון בדומה לטרגדיית "פאטריה".
פעילות בקפריסין.
ינאי ואריה קפלן קיבלו הוראה להתחזות למעפילים ולהגיע עמם למחנות המעצר בקפריסין. בקפריסין הקימו השניים הנהגה מקומית של המעפילים שקיבלה מהבריטים אוטונומיה לניהול פנימי של המחנות. ינאי ואנשי המוסד לעלייה ב' והפלמ"ח ששהו במחנות פעלו להברחת מלווי האניות הישראלים והצוותים הזרים אל מחוץ למחנות.
בחודש מרץ 1947 נשלחו יוחאי בן-נון ויוסקה רום מהארץ בספינת הדיג 'אופיר' כדי לבצע חבלה באוניות הגירוש הבריטיות שעגנו לא הרחק ממחנות המעצר בקפריסין. ינאי קיבל אותם ולאחר שהסתירו את חומר הנפץ הצטיידו בתעודות כעובדי מוסד הג'וינט. כשהציגו את התעודות בשער המחנה נתפסו ונאסרו בכלא פמגוסטה. בן נון התחזה למעפיל ולאחר משפט נקנס ב-5 לירות והוחזר למחנה ינאי ישב מספר שבועות בכלא.
באחד הימים בהם התלווה למעפילים שיצאו לרחוץ בים בפיקוח הבריטים הצליח ינאי להישאר מחוץ למחנה. בסיוע לוגיסטי של שושנה פרסיץ, תושבת קפריסין ממוצא ישראלי, ונהג מונית מקומי, הצליח ינאי לארגן את הברחתם של כעשרה מאנשי המוסד לעלייה ב', שהצליחו לאחר הרפתקאות רבות להגיע ליוון ומשם לאיטליה.
ינאי הוחזר ארצה וקיבל מהמוסד לעלייה ב' דרכון בריטי מנדטורי והוטל עליו לחזור לקפריסין ולהמשיך בהעברת ציוד ואנשים אל ומתוך המחנות דרך מנהרות שנחפרו מתחת לגדרות ולהעלותם על ה"כריש", ספינת דיג, שהובילה אותם ארצה בחשאי. ינאי נשלח בשלישית לקפריסין, הפעם בהוראת יגאל אלון, לסייע ליוחאי בן-נון וליוסף רומנובסקי (רום) בפעולות חבלה ימית באניות הגירוש הבריטיות העוגנות בקפריסין. "אופיר", ספינת דיג קטנה של מושב מכמורת הורידה את השלושה בסמוך לפמגוסטה כשאתם ציוד חבלה וסירה קטנה. הם חדרו למחנה המעצר בעזרת תעודות מזויפות של עובדי ה"ג'וינט" אך נתפסו על ידי הבריטים. ינאי נדון לחמישה חודשי מאסר אותם ריצה בקפריסין ובחיפה.
מפקד הפלי"ם.
עם שחרורו מהכלא הבריטי בסוף קיץ 1947 מונה ינאי למפקד הפלי"ם. הפלוגה הימית של הפלמ"ח הייתה בתקופה זו בשיאה. מנתה 370 ימאים ולוחמים ביניהם קרוב ל-80 חובלים. חלק מאנשי היחידה נמצא בחו"ל ועסק בהובלת אניות מעפילים ואניות רכש מאירופה. ליחידה היו עשר סירות מפרש ומשוטים גדולות, סירת מנוע, שני טורפדו תוצרת עצמית 'כריש' וכמה מוקשי עלוקה מתוצרת עצמית. חלק נמצא בארץ ישראל באימונים ימיים או יבשתיים ותפקידים שונים: הורדת מעפילי אניות שחמקו מהצי הבריטי אל החוף ופיזורם ביישובים בארץ; חבלה ימית; הכשרת אנשי פלי"ם; ומניעת הגעת נשק ערבי בדרך הים.
בסוף פברואר 1948 הגיש ינאי מפקד הפלי"ם תוכנית לנחיתה מהים ותפיסת אזורי מפתח בנגב. תפיסת נמל עקבה, פגיעה בעורקי תחבורה של האויב לאורך החופים ופגיעה בבסיסי ציוד ודלק. התוכנית התבססה על אנשי הפלמ"ח והפעלת שלוש פולשות, סירות מנוע וסירות דיג שישמשו להובלת הפושטים לחוף. הנושא נקלט על ידי יגאל ידין. ינאי השתתף בפגישה שנערכה ב-13 במרץ 1948 עם בכירי ההגנה ודוד בן-גוריון הועלתה התוכנית לאסוף כלים קטנים ולעשות בהם שימוש. בן-גוריון לא ראה בכך פתרון ועמד על כך שהפלי"ם כולו יופרד מהפלמ"ח ויצורף לשירות הימי. ינאי מתאר כך את הסיכום: . והחליט על הקמת כח השירות הימי כפוף למטה הכללי.
שרות בחיל הים.
מלחמת העצמאות.
ב-17 במרץ 1948 הוקם ה"שרות הימי", על בסיס הפלי"ם, וינאי התמנה לקצין המבצעים של ה"שרות הימי". ביוני 1948 פיקח על הקמתה של יחידת חבלה, שהתבססה על סירת מנוע 'פוזה' בפיקוד אברהם בוצר חמושה בשני טורפדו תוצרת עצמית שנקראו 'כריש' והתבססה בנמל תל אביב,
לאחר מספר חודשים מונה ינאי לשמש כמפקד ה"שייטת הגדולה" של ה"שרות הימי" שהפך לחיל הים.