Hai Phong didirikan oleh Lê Chân, seorang jenderal perempuan pada masa revolusi Vietnam melawan bangsa Cina yang dipimpin oleh Trưng Bersaudara (Hai Bà Trưng) pada tahun 43 Masehi. Hai Phong berdiri sebagai kota pelabuhan penting sekurang-kurangnya selama beberapa abad, dan merupakan salah satu pusat perdagangan penting di Vietnam. Ketika Vietnam diinvasi oleh Prancis, kota ini menjadi pangkalan laut utama Prancis di Indocina. Setelah Perang Dunia II, ketika Vietnam berupaya merebut kembali kemerdekaannya, Hai Phong adalah tempat aksi militer pertama yang dilakukan Prancis. Pada saat diakui bahwa Suffren, yakni kapal besar penjelajah milik Prancis, mengebom kota, hanya 3 aviso yang ikut serta dalam operasi yang memicu dimulainya Perang Indochina Pertama.