У чотирнадцять років він отримує від батьків дозвіл записатись на службу на військовий корабель «Поліфем». Згодом він узяв участь у кількох відомих операціях військово-морського флоту, зокрема в Копенгагенській битві 1801 року, дослідницькій експедиції до берегів Австралії, Трафальгарській битві 1805 року та Новоорлеанській битві 1814 року. У 1818 році Франклін у званні лейтенанта вперше відвідує арктичні широти як член експедиції Девіда Б’юкана. Метою дослідників було знайти вільне від криги море навколо Північного полюса. Проте експедиція потрапила в льодовий полон недалеко від о. Шпіцберґена і за кілька тижнів змушена була повертатись додому.