Произходът на Японските императорски военноморски сили може да се намери сред ранните взаимодействия на Япония с други страни в Азия, започвайки от ранния средновековен период и достигайки връх на активност през 16 и 17 век по време на културния обмен с европейските сили по време на Великите географски открития. След два века стагнация от изолационната политика Сакоку на шогунската власт през периода Едо, японският флот е сравнително изостанал, когато страната е принудена да отвори пазара си по силата на Канагавския договор от 1854 г. Това води до реставрацията Мейджи. След възкачването на императора идва и период на активна модернизация и индустриализация. Историята на успехи на военноморския флот, понякога срещу много по-силни противници (виж Първа китайско-японска война и Руско-японска война), завършва с почти напълно унищожение в последните дни на Втората световна война, основно от американските ВМС.