Thời kỳ Heian
Chế độ nhiếp chính Fujiwara > Tầng lớp quân sự cầm quyền

Vào đầu thời này, khi chế độ cưỡng bách tòng quân vẫn được trung ương kiểm soát, các hoạt động quân sự không nằm trong tay của các quý tộc địa phương. Nhưng khi hệ thống này bị dỡ bỏ sau năm 792, các thế lực địa phương trở thành nguồn sức mạnh quân sự chủ yếu. Những người chủ Shōen đã trở thành những người đầy quyền thế và, vì họ đã tiếp thu được kỹ thuật quân sự tiến bộ (ví dụ như phương pháp huấn luyện, cung, tên, ngựa khỏe hơn và những thanh kiếm siêu hạng) và đối mặt với tình hình địa phương ngày càng tồi tệ đi trong thế kỷ 9, hoạt động quân sự trở thành một phần của đời sống các shoen. Không chỉ các "shoen" mà cả các thế chế dân sự và tôn giáo cũng tổ chức các đơn vị bảo an riêng để bảo vệ chính mình. Dần dần, tầng lớp trên ở địa phương chuyển thành giai cấp quý tộc quân sự dựa trên tư tưởng của bushi (võ sĩ) hay samurai.
Sự hâm mộ các võ sỹ gồm nhiều loại khác nhau, phá vỡ cơ cấu quyền lực xưa cũ và tạo ra những quan hệ mới trong thế kỷ 9. Tầm quan trọng của tình cảm, những mối liên hệ gia đình, và mối quan hệ họ hàng được củng cố trong các nhóm quân sự và trở thành một phần của chế độ gia đình trị. Trong thời đại này, các gia tộc quân sự lớn ở địa phương tập hợp xung quanh những quý tộc triều đình, những người đã trở thành những nhân vật địa phương nổi bật. Những gia tộc quân sự gây dựng thanh thế bằng mối liên hệ với hoàng gia, các danh gia quân sự tại triều đình và tiếp cận với nguồn nhân lực. Các gia tộc Fujiwara, Taira và Minamoto nằm trong số những gia tộc nhận được sự ủng hộ lớn nhất của các giai tầng quân sự mới.
Sản lượng lương thực suy giảm, dân số gia tăng, và cạnh tranh giữa các gia đình lớn về các nguồn lực đều dẫn đến sự suy giảm dần quyền lực của nhà Fujiwara và làm gia tăng sự mất ổn định quân sự vào giữa thế kỷ 10 và thế kỷ 11. Thành viên của các gia tộc Fujiwara, Taira, và Minamoto—tất cả đều có nguồn gốc hoàng gia—tấn công lẫn nhau, tuyên bố quyền kiểm soát những dải đất lớn của những vùng đất chiếm được, thiết lập những chế độ thù địch, và nói chung là đã phá vỡ nền hòa bình của Xứ sở Mặt trời mọc.
Nhà Fujiwara kiểm soát ngai vàng cho đến triều đại Thiên hoàng Hậu Tam Điều (1068-1073), Thiên hoàng đầu tiên không do một người mẹ từ gia đình Fujiwara sinh ra kể từ thế kỷ 9. Go-Sanjo, quyết tâm phục hồi đế quyền qua sức mạnh kiểm soát cá nhân, thi hành các cải cách để kiềm chế ảnh hưởng của nhà Fujiwara. Ông cũng thiết lập một cơ quan để soạn thảo và xác nhận tính hợp lệ của các hồ sơ bất động sản với mục đích tái xác nhận quyền kiểm soát trung ương. Shōen không có giấy phép đúng đắn, và những người nắm giữ đất đai lớn, như nhà Fujiwara, cảm thấy bị đe dọa vì mất đi nhiều đất đai. Go-Sanjo cũng thành lập Incho, hay "Viện Sảnh", do người thừa kế của Thiên Hoàng đứng đầu, người từ bỏ quyền lợi để cống hiến bản thân mình cho sự cai trị ở hậu trường, hay Insei ("Viện Chính’’).
Incho lấp đầy khoảng trống quyền lực của nhà Fujiwara. Thay vì bị xua đuổi, nhà Fujiwara trở lại vị trí cũ của mình là độc tài dân sự và Trung Đại Nhân và thường bị bỏ qua trong việc ra các quyết định. Trong thời gian này, rất nhiều người nhà Fujiwara bị thay thế, phần lớn là bởi thành viên của gia tộc Minamoto đang nổi lên. Trong khi nhà Fujiwara bất hòa và chia thành hai phe Bắc Nam, hệ thống "Insei" cho phép huyết thống trực hệ hoàng gia lại giành được ảnh hưởng đằng sau ngai vàng. Thời kỳ từ năm 1086 đến năm 1156 là thời gian của "Incho" có quyền uy tối thượng và sự nổi lên của tầng lớp quân sự trên toàn quốc. Quân sự thay vì dân sự đã thống trị triều đình.
Tranh đoạt ngai vàng vào giữa thế kỷ 12 cho nhà Fujiwara cơ hội để tái lập quyền lực của mình. Fujiwara no Yorinaga sát cánh cùng vị Thiên Hoàng già trong một trận quyết chiến năm 1156 chống lại người được cho là người kế vị, được sự ủng hộ của hai gia tộc Taira và Minamoto (Bạo loạn Hogen). Cuối cùng, nhà Fujiwara bị tiêu diệt, hệ thống triều đình cũ bị thay thế, và hệ thống "Insei" không còn quyền lực vì bushi (võ sỹ) nắm việc triều chính, tạo ra một bước ngoặt trong lịch sử Nhật Bản. Năm 1159, hai nhà Taira và Minamoto xung đột (Bạo loạn Heiji), và 20 năm quyền lực của nhà Taira bắt đầu.
Taira no Kiyomori nổi lên như một thế lực thực sự ở Nhật Bản sau sự suy yếu của nhà Fujiwara, và ông ta sẽ nắm quyền lãnh đạo trong 20 năm tới. Ông đã cho con gái Tokuko kết hôn với Thiên hoàng Takakura, người chỉ mới 19 tuổi, để lại đứa con trai sơ sinh Antoku để kế vị ngai vàng. Kiyomori đã lấp đầy không dưới 50 vị trí của chính phủ bằng người thân của mình, xây dựng lại Biển nội địa và khuyến khích giao thương với Nhà Tống Trung Quốc. Ông cũng đã thực hiện các hành động mạnh mẽ để bảo vệ quyền lực của mình khi cần thiết, bao gồm việc loại bỏ và lưu đày 45 quan chức tòa án và san bằng hai ngôi đền rắc rối, Todai-ji và Kofuku-ji.[cần dẫn nguồn]
Taira bị quyến rũ bởi đời sống triều đình và bỏ qua các vấn đề ở các tỉnh[cần dẫn nguồn], nơi gia tộc Minamoto đang xây dựng lại sức mạnh của họ. Năm 1183, hai năm sau cái chết của Kiyomori, Yoritomo Minamoto đã phái anh em Yoshitsune và Noriyori tấn công Kyoto. Taira bị đánh lạc hướng và buộc phải chạy trốn, và Thái hậu đã cố gắng tự dìm mình và Hoàng đế 7 tuổi (ông đã chết, nhưng mẹ ông vẫn sống sót). Con trai khác của Takakura đã thành công với tư cách là Thiên hoàng Go-Toba.[cần dẫn nguồn]
Với tài tổ chức của Yoritomo, hệ thống  bakufu  cai trị Nhật Bản trong bảy thế kỷ tiếp theo đã được áp dụng. Ông bổ nhiệm các thống đốc quân sự, hay  daimyō , để cai trị các tỉnh và quản gia, hoặc  jito  để giám sát các khu vực công cộng và tư nhân. Yoritomo sau đó chuyển sự chú ý của mình đến việc loại bỏ gia tộc Fujiwara hùng mạnh, nơi che chở cho người anh em nổi loạn Yoshitsune. Ba năm sau, ông được bổ nhiệm  shōgun  ở Kyoto. Một năm trước khi qua đời vào năm 1199, Yoritomo đã trục xuất Thiên hoàng thiếu niên Go-Toba khỏi ngai vàng. Hai con trai của Go-Toba đã kế vị nhưng họ cũng sẽ bị những người kế vị chức shōgun của Yoritomo xóa bỏ. [cần dẫn nguồn]