ג'ון פרנקלין נולד בספילסבי (Spilsby) שבלינקולנשייר, אנגליה, כתשיעי מבין שנים עשר אחים ואחיות, ונצר לשושלת ארוכה של ג'נטלמנים כפריים. אחת מאחיותיו הייתה אמה של אמילי טניסון, אשתו של המשורר אלפרד טניסון. אביו של פרנקלין התנגד לעניין של בנו במסעות, אבל פרנקלין היה נחוש. לבסוף התרצה האב ואפשר לפרנקלין לצאת למסע ניסיון באוניית סוחר, אשר הפליגה עד לליסבון. מסע הניסיון רק חיזק את נחישותו של הבן, ופרנקלין, בעזרת הצבה שהושגה בסיוע אביו, הצטרף ב-23 באוקטובר 1800 לחיל הים המלכותי. פרנקלין נטל חלק בקרב קופנהגן ב-1801. אחרי הקרב הוא שוחרר זמנית וזאת, לבקשתו ובעזרת הוריו, כדי ליטול חלק במשלחת מחקר לחופי אוסטרליה, בראשה עמד דודו, מתיו פלינדרס. הספינה בה נסעה המשלחת ננטשה ליד סידני, והספינה החלופית עלתה על שרטון. לבסוף פרנקלין חזר לאנגליה ב-1804 דרך קנטון (כיום גואנגג'ואו). בדרכו חזרה, על אוניה של חברת הודו המזרחית הבריטית, נטל פרנקלין חלק בהתכתשות עם הצי הצרפתי במצר מלאקה. פרנקלין חזר לשרת בצי והתקדם במהלך המלחמות הנפוליאוניות לדרגת לוטננט. בין היתר נטל חלק בהסגר הימי על ברסט ובים הצפוני, בקרב טרפלגר ובקרב ניו אורלינס (24 בדצמבר 1814 - 8 בינואר 1815), אשר היה חלק ממלחמת 1812, ובו פרנקלין נפצע. עם תום המלחמות הנפוליאוניות שוחרר פרנקלין מהצי אך המשיך לקבל מחצית ממשכורתו.