Sejarah NYK bermula dengan syarikat perkapalan Tsukumo Shokai yang ditubuhkan oleh keluarga Tosa pada tahun 1870. Pada tahun 1875, selepas penjenamaan semula menjadi Mitsubishi Shokai, syarikat ini melancarkan perkhidmatan kapal penumpang Jepun yang pertama menggunakan laluan antara Yokohama dan Shanghai. Pada tahun yang sama, nama syarikat sekali lagi ditukar kepada Mitsubishi Mail Steamship Company. Selepas penggabungan dengan Kyodo Unyu Kaisha (ditubuhkan 1882) pada tahun 1885, syarikat ini mula menggunakan nama Nippon Yusen Kabushiki Kaisha (NYK). Pada mulanya, Syarikat gabungan ini memiliki 58 kapal stim dan melebarkan operasinya dengan pantas, mulanya antara pelabuhan di Timur dan kemudiannya ke seluruh dunia. Pada tahun 1899, perkhidmatan kapal penumpang ke London dilancarkan.