תפקידיו הראשונים היו על משחתות חיל הים. תחילה הוצב במשחתת אח"י אילת, במחלקת טורפדו ונגד צוללות. לאחר שנה בתפקיד נשלח לקורס קציני בצי המלכותי הבריטי בפורטלנד. לקראת נסיעתו נדרש, כמקובל באותם ימים, לעברת את שם משפחתו. תוך חצי שעה היה עליו למסור את בחירתו. ישב על הרציף בכניסה לנמל ובעודו חושב, חלפה למולו הצוללת אח"י רהב (צ-73). כך בחר להחליף את שמו ל"רהב".
בקיץ 1960 יצא רהב לאנגליה עם עוד שני קצינים: סגן צבי פז וסרן יוסף הררי החניך הבכיר. הקורס נערך בדרום אנגליה בבסיס של הצי המלכותי הבריטי. החומר המקצועי כלל גם שליית מוקשים. עם שובו הוצב במשחתת אח"י חיפה, אשר לא נשאה טורפדו, כמפקד מחלקת טנ"ץ. לאחר תפקיד זה עבר לשירות בטרפדות.
טרפדות.
רהב הוצב כמפקד טרפדת באילת מסוף 1961 ועד אמצע 1965, ואז הוצב לפלגת הטרפדות בחיפה כמפקד טרפדת ט-204. במרץ 1966 קודם לדרגת סרן, ומונה לסגן מפקד פלגה 914.
בתפקיד זה גיבש יחד עם מפקד הבסיס, אל"ם יצחק גזית, את העיקרון כי בכל פעם שספינה יוצאת לים היא תהיה כשירה לקרב. המוכנות מתבטאת לא רק בכשירות מערכות ההשטה, הניווט ואמצעי הלחימה, אלא גם במודעות הצוות לכוננות לחימה וסגל הבסיס לאחריות על השילוח. עיקרון זה הנחה את רהב בכל תפקידיו.
מלחמת ששת הימים וקרב רומני.
במלחמת ששת הימים פיקד רהב על כוח טרפדות שפעל בים התיכון. מיד לאחר המלחמה התארגן חיל הים לסיורים לאורך חופי חצי האי סיני, לצורך אבטחת החוף. לאחר המלחמה החלו ספינות מכמורת ישראליות לפקוד את חופי סיני העשירים בדגה, שהיו סגורים בפניהן לפני המלחמה. גם הדייגים המצריים לא השלימו עם אובדן אזורי הדיג והמשיכו לדוג באזור. בתחילת יולי 1967 התברר לישראל שחיל הים המצרי מבצע סיורים ליליים חשאיים של כלי שיט מלחמתיים מול חוף סיני מעבר לקו הפסקת האש ועד סמוך לאל עריש. נוכחות מצרית חמושה, מזרחית לקו הפסקת האש, סיכנה את ספינות הדיג הישראליות ואת כוחות צה"ל בסיני.
בתגובה לסיורים הליליים המצריים לאורך חופי סיני החליט מפקד חיל הים, האלוף שלמה אראל, לשנות את שגרת הסיורים ולקיימם בשעות החשיכה, ולהפוך אותם למעשה למארב. ב-11 ביולי 1967 הביא סיור מסוג זה לתוצאות, כאשר כוח של שתי טרפדות (אח"י "דיה", ט-204, ואח"י "איה", ט-203) בפיקוד רהב, בליווי המשחתת "אח"י אילת" בפיקוד סא"ל יצחק שושן, נתקלו בשתי ספינות טורפדו מצריות מול חופי רומני, בצפון סיני. בקרב שהתפתח, שנודע בשם "קרב רומני", הוטבעו שתי ספינות הטורפדו המצריות, האחת על ידי הטרפדות והשנייה על ידי המשחתת.
ספינות סער.
לאחר המלחמה קיבל רהב הודעה שהוא מתוכנן לשמש כקצין נשק בספינה השלישית אח"י מזנק בתקן סרן. רהב שבתפקידו כסגן מפקד פלגת הטרפדות לא נראה שיחזור להיות בתפקיד שאינו פיקוד על ספינה. כמו כן היה בתקן רס"ן והמשמעות הייתה ירידה בדרגה. מפקד חיל הים אברהם בוצר חזה שלא ימצאו קציני ים ותיקים בכמות מספקת לאיוש כל הספינות בבנייה ושינה את התקן למפקדי ספינת טילים מדרגת סא"ל לדרגת רס"ן.
ב-15 ביולי 1968 מונה רהב למפקד אח"י חיפה, החמישית בסדרת סער 2, שהייתה עדיין בבנייה. רהב נשלח למספנה בשרבור שבצרפת כדי להצטרף לאח"י אילת (סער 2) בפיקוד אלי לוי, ושימש בה כקצין משמרת גשר בהפלגה משרבור לישראל. נתיב ההפלגה כלל שלושה קטעים של כ-1000 מיל ימי - במהירות 30 קשר, עם כניסה לתדלוק בגיברלטר ובאוגוסטה סיציליה. ההפלגה עברה ללא חוויות מיוחדות. רהב חזר לאח"י חיפה (סער 2) בשרבור בחודש האחרון ערך את ניסויי הים של הספינה ולמד לתמרן איתה.
יציאת אח"י חיפה (סער 2) משרבור נעשתה לפי כללי הימאות הטובה והנוהלים המחייבים. כולל פגישת פרידה אצל האדמירל הצרפתי מפקד הזירה. להפלגה הצטרף רס"ן יעקב ניצן שתוכנן לפקד על אח"י עכו, אך במפרץ ביסקאיה נתקלה הספינה בגלי עומק גבוהים והתקשתה להתקדם על הנתיב. לא ניתן היה להפליג ב-30 קשר בגלל חבטות בתחתית. בהקטנת המהירות התחפר חרטום הספינה ומים שטפו בעוצמה את הסיפון וכופפו את מגן הגלים.
רהב החליט להיכנס לנמל לוריין (ברטאן) בכוונה להמתין יממה ולתת לים להירגע. מפקד השייטת הדר קמחי הגיע למקום, העריך את המצב וקבע להקדים את היציאה. לאחר כ-8 שעות המשיך בהפלגה. הים היה גבוה אך ניתן היה להתקדם וכך הגיעה הספינה לגיברלטר. לאחר מנוחה של יממה יצאה לדרך לנמל אוגוסטה שם התקבלה הספינה בחביבות על ידי הצי האיטלקי והמשיכה לנמל חיפה.
תאונה קטלנית.
באח"י חיפה (סער 2) הותקנה לראשונה מערכת טילי גבריאל. ב-19 בפברואר 1969, בעת האימונים הראשונים בהפעלת תותח 40 מ"מ שהיה מוצב על הספינה אירעה תאונה קטלנית שבה נהרג טוראי . רהב הלך אישית להודיע למשפחה והביא את האב לראות בדיוק את המקום בו התרחשה.
רהב נשלח לדווח לרמטכ"ל, רב-אלוף חיים בר-לב, בהנחה שיודח מפיקוד. הרמטכ"ל הביע את חוסר שביעות רצונו המוחלט, אך בהמלצת מפקד חיל הים אלוף אברהם בוצר, החליט בר-לב להשאיר את רהב בפיקוד על אח"י חיפה (סער 2).
בסיס הדרכה.
בספטמבר 1970 מונה כמדריך ראשי בבסיס ההדרכה של חיל הים. חיל הים היה בעיצומו של תהליך קליטת ספינות הטילים החדשות, ורהב היה אחראי על החלפת נושאי ההכשרה - מנושאים שעסקו בעיקר בהפעלת משחתות, למקצועות ספינות הטילים. בסיס ההדרכה של חיל הים קלט את השיטות החדשות שפותחו אז במחלקת ההדרכה להגדרת מטרות אופרטיביות להדרכה. כן נערכו ביקורים בכל בסיסי ההדרכה של צה"ל, ואומצו נהלים שונים שהתקיימו בהם. במקביל לתפקיד זה למד לתואר ראשון בכלכלה באוניברסיטת חיפה וסיים את לימודיו בהצטיינות.
קליטת ספינות סער 4.
ב-12 ביוני 1972 מונה למפקד פלגת ספינות הטילים מדגם סער 4, והועלה לדרגת סא"ל. הוטלה עליו המשימה להביא את שתי הספינות החדשות, אח"י רשף ואח"י קשת, שנבנו באותה עת במספנות ישראל, לכשירות מבצעית. לאחר ההבאה לכשירות מבצעית היה רהב אמור להעביר את שתי הספינות לבסיס חיל הים בים האדום, בהפלגה סביב יבשת אפריקה.
לשם לימוד התנאים באוקיינוס ההודי נשלח רהב בנובמבר 1972 לדרום אפריקה והפליג מנמל דרבן (דרום אפריקה) באניית צים 'א.מ. נהריה' לאילת.
השמדת סירת מחבלים.
בנוסף לתפקידו בהשלמת בנייתן של הספינות החדשות, שולב רהב בפעילות שייטת ספינות הטילים, בפיקודו של אלוף-משנה שבתאי לוי (לימים תת-אלוף וסגן מפקד חיל הים). בליל 7 בספטמבר 1972 יצא רהב כמפקד מחליף על ספינת סער 3 אח"י חנית לסיור מניעה מול חוף דרום לבנון. במכ"ם התגלתה מטרה קטנה, וכאשר התקרבה אליה הספינה הישראלית כדי לזהותה נורתה מן הסירה רקטת RPG-7 שפגעה בתורן. המטרה התגלתה כסירת מחבלים שהייתה בדרכה לביצוע פיגוע בשטח ישראל. רהב הרחיק את "אח"י חנית" מטווח נשק המחבלים. נערך מחדש בחסות החשיכה, פתח באש והשמיד את הסירה על כל אנשיה. הייתה זו הפעם הראשונה שבה הופעל תותח אוטו מלרה 76 מ"מ בקרב לילי בהכוונת מכ"ם. הייתה זו התגובה המיידית של חיל הים לטבח הספורטאים באולימפיאדת מינכן שהתרחש יומיים קודם לכן.
הובלת פושטים.
במבצע אביב נעורים, שהתקיים בליל 9 באפריל 1973, הופעלו כל ספינות השייטת. רהב נקרא לפקד על זוג ספינות אח"י אילת בפיקוד אילן שדה ואח"י חרב בפיקוד שמואל פרס, שמשימתן הייתה הורדת לוחמי סיירת מטכ"ל בפיקוד אהוד ברק, בסירות גומי, בפיקוד דני אבינון. ואיסופם לאחר שפשטו על בתי מנהיגי המחבלים בביירות. רהב ביצע אישית את תזמון פעילות סירות הגומי. שהגיעו לחוף בו זמנית עם חזרת הפושטים ופינו אותם ללא השהיה.
מלחמת יום הכיפורים.
במלחמת יום הכיפורים היה רהב מפקד פלגה בשייטת ספינות הטילים בדרגת סגן-אלוף. הפלגה בפיקודו כללה את שתי ספינות הטילים מסדרת סער 4. צוותי ספינות פלגת סער 4 ניצלו את השהות במספנה לאימונים רבים. בקרב לטקיה הייתה אח"י רשף ראשונה לפגוע בתותחים בטרפדת סורית וראשונה לפגוע בטילים בשולת מוקשים. בקרב דמיאט הייתה אח"י קשת הראשונה לפגוע בטילים בספינת אוסה (ספינה) מצרית. ספינות הסער 4 שפעלו יחדיו הדליקו את מיכלי הבניאס והמשיכו לפעול היטב לכל אורך המלחמה.
רהב פיקד על "אח"י קשת" ו"אח"י אילת" בקרב פורט סעיד, ועל "אח"י רשף" ו"אח"י קשת" בקרב דמיאט. בקרב זה הוטבעו שלוש ספינות טילים של המצרים. ספינות הטילים השיגו שליטה ימית מלאה בזירת הים התיכון וניצלו אותה גם לצורך הפגזת מתקני חוף שונים, ובהם הפגזת מתקני הדלק בחוף בניאס, על ידי כוח של כמה סטי"לים ובהם הפלגה בפיקודו של רהב.
משימה חשובה של חיל הים במהלך המלחמה הייתה אבטחת נתיבי הים לישראל. ספינות סער 4 שהיו בעלות הטווח הרחוק ביותר נשלחו למרכז הים התיכון כדי להגן על אוניות הסוחר שהפליגו לישראל. עצם הופעתן של הספינות, שהוכיחו את יכולתן בקרבות הטילים, באזור סיציליה, הרתיעה את המצרים, ומשחתת מדגם סקורי שהייתה באזור התרחקה ללוב.
שייטת ספינות הטילים.
ב-27 ביוני 1974 הועלה רהב לדרגת אלוף-משנה ומונה למפקד שייטת ספינות הטילים. הוא שימש בתפקידו זה עד 30 במרץ 1976. השייטת הייתה באותה תקופה במיטבה, לאחר ההצלחות במלחמת יום הכיפורים, וזכתה לביקורם של אורחים רבים מישראל ומחוצה לה. עיקר פעילותו של רהב כמפקד שייטת הייתה יישום לקחי קרבות הטילים ומעקב אחר קליטת ספינות הטילים בזירת ים סוף. וכן ערכו מבצעים משולבים עם שייטת 13 כנגד המחבלים.
הפלגה לארצות הברית.