טירפיץ לא התכוון להצטרף לצי הפרוסי, אך כאשר סיפר לו אחד מחבריו על התגייסותו לצי החליט טירפיץ, בהסכמת הוריו, ללכת בעקבותיו. הוא התגייס ב-24 באפריל 1865 בגיל 16, והחל את שירותו בבית הספר הימי הצבאי בקיל. בתוך שנה הייתה פרוסיה במלחמה עם אוסטריה. ב-26 ביוני 1866 הוסמך טירפיץ כזיקאדט (Seekadett, דרגה המקבילה לדרגת מידשיפמן, פרח קצונה), והוצב באוניית מפרשים שסיירה בתעלת למאנש. באותה שנה הצטרפה פרוסיה לקונפדרציה הצפון גרמנית. הצי הפרוסי הפך רשמית לצי של הקונפדרציה הצפון גרמנית, וטירפיץ צורף רשמית לצי זה ב-24 ביוני 1866.
ב-2 בספטמבר 1869 הוסמך טירפיץ כקצין בדרגת אונטר לויטננט צור זי והוצב לפריגטה המשוריינת קניג וילהלם. במהלך מלחמת פרוסיה-צרפת היה הצי פרוסי נחות וקטן בהרבה מהצי הצרפתי שעמד מולו, ונותר במשך רוב המלחמה בנמליו, דבר שהיה מביך ומבייש עבור הצי. באותה תקופה היו פרוסיה ובריטניה ביחסי ידידות, ואוניות הצי הפרוסי שהו זמן רב בנמלים בריטיים. טירפיץ דיווח שהמלחים הגרמניים מוצאים את פלימות' נוחה יותר מקיל, וכי קל יותר להשיג ציוד ואספקה בבריטניה מאשר בפרוסיה, ורמתם גבוהה יותר. באותה תקופה סייע הצי הבריטי ברצון לצי הפרוסי הקטן, והקצינים הפרוסיים רחשו כבוד רב לעמיתיהם הבריטיים.
פיתוח טורפדו ולוחמת טורפדו.
בעקבות איחוד גרמניה ב-1871 שונה שוב שמו של הצי, ועתה כונה הצי הקיסרי הגרמני. ב-25 במאי 1872 הועלה טירפיץ לדרגת לויטננט צור זי, וב-18 בנובמבר 1875 לדרגת קפיטן-לויטננט (המקבילה לדרגת לוטננט, OF-2, בצי הבריטי, ולדרגת סרן בצה"ל). ב-1877 נבחר טירפיץ לבקר במפעל של רוברט וייטהד, בעיר פיומה, ובו יוצרו הטורפדו הראשונים. לאחר ביקור זה מונה טירפיץ לאחראי על מחלקת הטורפדו בצי הקיסרי הגרמני. ב-1879 יוצר טורפדו גרמני ראשון, אך טירפיץ העריך שסיכוייו לפגוע במטרה אינם יותר מ-50%.
ב-17 בספטמבר 1881 עלה טירפיץ לדרגת קורבטנקפיטן (המקבילה לדרגת לפטננט קומנדר, OF-3, בצי הבריטי, ולדרגת רב-סרן בצה"ל). הוא עבר מתכנון טורפדו לתכנון ספינות טורפדו. מזכיר המדינה של משרד הצי הקיסרי הגרמני, לאו פון קפריבי שהיה קרוב רחוק של טירפיץ, ועתה יכול היה לעבוד איתו על פיתוח טקטיקת הלוחמה של ספינות אלו. קפריבי ראה בספינות הטורפדו אמצעי לוחמה הגנתי כנגד האויב הסביר, צרפת. טירפיץ, לעומתו, תכנן פעולות התקפיות למלחמה אפשרית כנגד צרפת, ותכנן מתקפה על נמל שרבור באמצעות ספינות הטורפדו. ב-1887 זכו ספינות הטורפדו של הצי הגרמני בכבוד ללוות את וילהלם השני, קיסר גרמניה, כאשר הפליג לחגיגות יובל הזהב לסבתו, ויקטוריה, מלכת הממלכה המאוחדת. זו הייתה הפעם הראשונה בה פגש טירפיץ את הקייזר. מאוחר יותר תיאר טירפיץ את התקופה שבה שירת בספינות הטורפדו כ"אחת עשרה השנים הטובות ביותר שלי".
פיתוח אסטרטגיה חדשה.
ב-1887 סיים קפריבי את תפקידו, והוחלף על ידי אלכסנדר פון מונטס. חשיבותן של ספינות הטורפדו בעיניו הייתה נמוכה יותר, וטירפיץ ביקש העברה מתפקידו. הוא מונה לפיקוד על האונייה מחופת השריון "פרויסן" ואחריה על הפריגטה המשוריינת "וירטמברג". ב-24 בנובמבר 1888 קודם טירפיץ לדרגת קפיטן צור זי (דרגת המקבילה לדרגת קפטן, OF-5, בצי הבריטי, ולדרגת אלוף-משנה בצה"ל). ב-1890 מונה לראש מטה השייטת הבלטית של הצי. בשיחה שהתקיימה עם הקייזר, כאשר הגיע לפגישה עם קציני הצי הבכירים בקיל, הציע טירפיץ לקייזר לבנות אוניות מערכה, בניגוד לדעת עמיתיו שהמליצו על בניית סיירות. הקייזר אהב את התשובה, ותשעה חודשים מאוחר יותר הועבר טירפיץ לברלין כדי שיתחיל בתכנון אסטרטגיה חדשה עבור הצי הקיסרי הגרמני, צי שיוכל לפעול בים הפתוח.
טירפיץ אסף סביבו צוות של קצינים שהכיר מעת שירותו בספינות הטורפדו, הוא גיבש צי של כלי שיט מסוגים שונים, ובאמצעותם דימה אוניות מערכה. באימונים שעשה עם כלי השיט הללו נבחנו הטקטיקות שגיבש צוותו של טירפיץ. ב-1 בדצמבר 1892 הציג טירפיץ את מסקנותיו בפני הקייזר, ומסקנות אלו הביאו אותו לעימות מול מזכיר המדינה של משרד הצי באותה עת, אדמירל פרידריך פון הולמן. בתפקידו היה הולמן אחראי על רכישת אוניות, ומדיניותו הייתה רכישת כלי שיט על פי האפשרויות הכלכליות. טירפיץ הגיע למסקנה שהמבנה הקרבי הטוב ביותר הוא של שייטת בת שמונה אוניות מערכה זהות, ולא שייטת של שמונה אוניות בעלות יכולות שונות. לתפיסתו של טירפיץ, בכל פעם תתווסף לצי קבוצה של שמונה אוניות, בעלות יכולות זהות. הולמן העדיף צי מעורב, שיכלול סיירות למשימות ארוכות טווח, אך טירפיץ סבר שסיירות לא תוכלנה לפעול ללא גיבוי של אוניות מערכה.
טירפיץ היה מתוסכל מכך שהמלצותיו אינן מתקבלות, ובסתיו 1895 ביקש לעבור לתפקיד אחר. הקייזר לא רצה לוותר על טירפיץ, וביקש ממנו להכין רשימת המלצות לבניית אוניות. הרשימה הוגשה ב-3 בינואר 1896, אך תזמון הגשתה היה גרוע: הימים היו ימי העימותים בין הבורים ובין המתיישבים הבריטים בדרום אפריקה. הקייזר, כמו רוב הגרמנים, תמכו בבורים אך לא היו יכולים לסייע בשל המרחק הרב ובשל העובדה שהצי המלכותי הבריטי שלט בים ומנע כל אפשרות להעביר אליהם עזרה. הקייזר החל מיד לדרוש סיירות, שתוכלנה לפעול במרחקים גדולים ולהשפיע על המלחמה. הולמן הופקד על אישור הרייכסטאג לתקציב הנדרש עבור תוכנית בניית אוניות, אך הוא נכשל במשימתו. הקנצלר, הוהנהלוהה, לא ראה הגיון בהגדלת הצי ולפיכך דיווח לקייזר שהרייכסטג מתנגד, וראש המטה של משרד הצי, אדמירל גוסטב פון זנדן-ביברן, המליץ שהדרך היחידה להגשים את התוכניות להגדלת הצי היא להחליף את הולמן. וילהלם החליט, אימפולסיבית, למנות את טירפיץ.
עם זאת, בינתיים הצליח הולמן להשיג מימון לאוניית מערכה אחת ולשלוש סיירות גדולות. הקייזר וראשי הצי היו סבורים שהחלפתו של הולמן לפני השלמת העברת חוק התקציב לתוכנית הבנייה הזו תהיה טעות. לפיכך הוחלט לתת לטירפיץ את הפיקוד על שייטת המזרח הרחוק של הצי הקיסרי הגרמני, עם הבטחה שימונה למזכיר המדינה של משרד הצי ברגע המתאים. בסיסה של שייטת המזרח הרחוק היה במתקנים הבריטיים בהונג קונג, וכלי השיט הגרמניים היו תמיד בעדיפות נמוכה לשימוש ברציפים ובמבדוקים. טירפיץ הונחה למצוא מיקום מתאים לנמל חדש, ולהציע ארבע אפשרויות. טירפיץ העדיף את צ'ינגדאו בצפון סין, אז בשליטת שושלת צ'ינג, אך בכירים אחרים בממד הימי הגרמני העדיפו מיקומים אחרים וטירפיץ נחלש מעט בלחצם. בסופו של דבר כפו הגרמנים על שליטי סין ב-1898 להחכיר להם את האזור, שהעיר המרכזית בו נקראה בפיהם צינגטאו.
טירפיץ כבר לא היה במזרח באותה עת. ב-12 במרץ 1896 קיצץ הרייכסטאג את התקציב שאושר להולמן מ-70 מיליון מארק גרמני ל-58 מיליון. הולמן התפטר, וטירפיץ נקרא לשוב למולדתו ולקבל את תפקיד מזכיר המדינה של משרד הצי הקיסרי (Reichsmarineamt). טירפיץ שב לגרמניה בדרך הארוכה, דרך ארצות הברית בה סייר במהלך מסעו הביתה. הוא הגיע לברלין ב-6 ביוני 1897, והביע תחושות פסימיות בדבר יכולתו להצליח מול הרייכסטאג.
מזכיר המדינה של משרד הצי הקיסרי.
ב-15 ביוני הגיש טירפיץ לקייזר תזכיר על מבנה ומטרת צי המלחמה הגרמני. התזכיר הגדיר את בריטניה כאויב המרכזי, ואת הים הצפוני בין הלגולנד לשפך התמזה. כאמור לעיל, הקייזר וכמה מראשי הצי סברו שהצי הקיסרי צריך להיות מורכב מסיירות, בעלות טווח גדול, שתוכלנה להילחם בכל רחבי העולם. טירפיץ דחה אפשרות זו כלא מעשית, בשל היעדרם של בסיסי אספקה גרמניים מעבר לים (צינגדאו הייתה הבסיס הימי היחיד שהיה לגרמנים מחוץ לגרמניה). לדעתו, המרכיב העיקרי של הצי היה צריך להיות אוניות מערכה, שתוכלנה להיות משקל נגד לצי הבריטי. היעד שגיבש טירפיץ היה, כאמור, בניית שתי שייטות של אוניות מערכה, עם שמונה אוניות זהות בכל אחת, וכן אוניית דגל אחת ושתי אוניות נוספות, כעתודה. על פי תוכניתו של טירפיץ תושלם בניית האוניות ב-1905 ועלותה תעמוד על 408 מיליון מארק, 58 מיליון מארק לשנה - בגובה התקציב הקיים.
בהצעתו של טירפיץ היו כמה חידושים. ראשית, הוגדר לצי יעד ברור, במקום המדיניות הקודמת שבה גדל הצי בהדרגה וללא שיטה. התכנית נבנתה תוכנית לשבע שנים, כתוכנית קבועה שלאחר אישורה ברייכסטג לא תהיה נתונה לשינוי, לא על ידי הרייכסטאג ולא על ידי הצי. החידוש החשוב ביותר היה בשינוי במדיניות החוץ של הקיסרות הגרמנית, שנועד להצדיק את בניית הצי. בפעם הראשונה הוגדרה בריטניה כאויב העיקרי (אם כי שמה לא נזכר במפורש בתזכיר של טירפיץ), בניגוד לקשר הידידותי שהיה עד אז בין שתי המדינות.
הקייזר אישר את הצעתו של טירפיץ, וזה האחרון אסף צוות של קצינים והסתגר עימם כדי לתכנן את הצעת החוק שתוגש לרייכסטאג. הוא מנע התערבות של הפיקוד הגבוה של הצי בתוכניות על ידי הקמת וועדה משותפת שנועדה לבחון שינויים בצי, אך מנע מהוועדה כל מידע. בשיטה דומה פעל גם מול משרד האוצר הקיסרי. לעומת זאת, טירפיץ טרח רבות לוודא שהקייזר והקנצלר משוכנעים בתוכניתו, וכך יכול היה לטעון מול גופים אחרים שההחלטות כבר התקבלו בדרג הגבוה ביותר, וכך למנוע וויכוחים ומחלוקות על תפיסתו.