Thời kỳ Heian
Chế độ nhiếp chính Fujiwara

Khi Thiên hoàng Kammu dời kinh đô tới Heian-kyō (Kyoto), cũng là kinh đô của đất nước trong hơn 1000 năm sau đó. Thiên hoàng Kammu không chỉ muốn tăng cường quyền lực của triều đình mà còn củng cố vị thế địa chính trị của bộ máy cai trị bởi kinh đô mới có một con sông dẫn ra biển và có thể đến được bằng đường bộ qua các tỉnh phía Đông. Thời Heian giai đoạn đầu (784-967) là sự kế tục văn hóa thời kì Nara, kinh đô Heian (Kyoto) được thiết kế theo kiểu thành Trường An của nhà Đường, giống như cố đô Nara nhưng ở quy mô lớn hơn nhiều. Bất chấp sự thất bại của những cải cách Taika - Taihō, triều đình vẫn rất mạnh vào giai đoạn đầu thời kì Heian. Sự thật là, việc Thiên Hoàng Kammu tránh các cuộc đại cải cách đã làm giảm cường độ của các cuộc đấu đá chính trị và ông đã được công nhận là một trong những Thiên hoàng mạnh mẽ nhất của Nhật Bản.
Dù đã bãi bỏ cưỡng bách tòng quân đối với chế độ quân đoàn cũ từ năm 792, Thiên hoàng Kammu vẫn tiến hành những cuộc chinh phạt lớn nhằm thu phục người Emishi, những người được cho là hậu duệ của người thời kỳ Jōmon đã di cư, sống ở miền Bắc và miền Đông Nhật Bản. Sau khi tạm thời đạt được những thành tựu vào năm 794, năm 797, Thiên hoàng Kammu bổ nhiệm một chức quan mới với tên gọi Chinh di đại tướng quân, nghĩa đen là tướng quân chuyên đi chinh phạt các bộ tộc man di ở Nhật Bản. Năm 801, Chinh di đại tướng quân Saka-no-Ue-no-Tamuramaro đánh bại người Emishi và mở rộng lãnh thổ hoàng gia cai trị tới cực Đông của đảo Honshū. Tuy vậy, quyền kiểm soát của triều đình đối với các khu vực này vẫn rất mỏng manh. Tới thế kỷ 9 và 10, phần lớn quyền lực rơi vào tay các đại gia tộc - những kẻ coi thường hệ thống thuế khóa và quản lý đất đai theo hình mẫu Trung Hoa do chính quyền Kyoto thiết lập. Mặc dù Heian là một thời kỳ ổn định, dòng dõi Thiên hoàng vẫn được đảm bảo theo hình thức cha truyền con nối, song quyền lực lại rơi vào tay gia tộc Fujiwara.
Sau khi Thiên hoàng Kammu băng hà năm 806, hai người con trai của ông bắt đầu tranh giành ngai vàng, hai cơ quan mới được thành lập để điều chỉnh lại hệ thống hành chính Taika - Taihō. Cơ quan thứ nhất là Ngự tiền viện, thông quá đó Thiên hoàng có thể ban chiếu trực tiếp và chắc chắn hơn trước kia. Cơ quan thứ hai là lực lượng cảnh binh kinh đô mới thay thế cho cấm vệ hoàng gia vốn mang nặng tính lễ nghi. Việc ngừng đưa các đoàn ngoại giao đi sứ triều đình nhà Đường vào năm 838 đã chính thức khép lại tầm ảnh hưởng của Trung Hoa đối với Nhật Bản. Nhà Đường đang bước vào thời kỳ mạt triều, Phật giáo bị đàn áp quyết liệt, làm suy yếu lòng tôn kính của Nhật Bản với các thể chế kiểu Trung Hoa. Nhật Bản bắt đầu thay đổi theo chiều hướng hướng nội hơn.
Giống như gia tộc Soga nắm quyền kiểm soát ngai vàng trong thế kỷ 6, thì vào thế kỷ thứ 9, gia tộc Fujiwara đã liên hôn với hoàng gia và đưa một trong những thành viên của họ trở thành người đứng đầu Ngự tiền phòng của Thiên hoàng. Một người nhà Fujiwara khác trở thành Nhiếp chính quan (Sessho) cho cháu trai mình, khi đó là một Thiên hoàng nhỏ tuổi; và một người nữa được phong chức Quan Bạch (Kanpaku). Cho đến cuối thế kỷ 9, vài Thiên Hoàng đã cố gắng, nhưng bất thành để kìm hãm nhà Fujiwara. Thế nhưng, có một lần dưới triều Thiên hoàng Daigo (897-930), chế độ nhiếp chính Fujiwara bị gián đoạn và Thiên hoàng trực tiếp trị vì đất nước.
Tuy nhiên, gia tộc Fujiwara không hề bị hạ bệ dưới triều đình Thiên hoàng Daigo mà thực tế họ còn mạnh hơn. Chính quyền trung ương tiếp tục suy yếu trong khi nhà Fujiwara cùng với vài đại gia tộc khác và các xã viện Thần đạo, Phật giáo có thêm nhiều shōen (trang viên), trở nên vô cùng giàu có vào đầu thế kỷ 10. Từ đầu thời Heian, các shōen đã có được địa vị pháp lý riêng, các xã viện tôn giáo lớn bắt đầu đòi hỏi các danh vị rõ ràng và vĩnh viễn, họ đòi miễn thuế nộp cho triều đình và miễn trừ quyền kiểm soát của chính quyền với các shōen mà họ nắm giữ. Người nông dân cảm thấy rất có lợi khi nhượng quyền sở hữu đất cho các trang viên nêu trên, đổi lại họ không phải nộp thuế, chỉ cần canh tác trên đất và trả một phần lương thực thu hoạch được cho trang viên sau vụ mùa. Cả nhân dân lẫn đất đai ngày càng vuột khỏi tầm kiểm soát, chế độ thuế khóa của triều đình trung ương trên thực tế đã trở lại tình trạng trước Cải cách Taika.
Trong vòng một thập kỷ sau khi Thiên hoàng Daigo băng hà, gia tộc Fujiwara nắm quyền kiểm soát toàn diện triều đình. Năm 1000, Fujiwara no Michinaga đã có thể phế lập Thiên Hoàng theo ý muốn. Triều đình trung ương hầu như không còn quyền lực gì. Gia tộc Fujiwara được nhà sử học George B. Sansom gọi là "độc tài cha truyền con nối."
Bất chấp việc chiếm đoạt hoàng quyền, nhà Fujiwara vẫn tạo ra một thời kỳ nở hoa của nghệ thuật và mỹ học giữa triều đình và tầng lớp quý tộc. Những vần thơ duyên dáng cùng văn học tiếng bản ngữ rất được ưa chuộng. Văn tự tiếng Nhật đã từ lâu dựa vào kanji, nay nó được bổ sung thêm bằng kana, hai cách phát âm chữ viết Nhật Bản: katakana - một hệ thống dựa vào trí nhớ sử dụng chữ tượng hình Trung Hoa; và hiragana - bảng ký hiệu âm tiết bằng chữ thảo với một phương pháp viết riêng biệt đặc sắc Nhật Bản. Hiragana cho người viết cảm xúc bởi nó là chữ tượng thanh, và với nó, lại càng quảng bá cho sự nổi tiếng của văn học tiếng Nhật. Đa phần các tác phẩm viết bằng hiragana là do những người phụ nữ trong triều viết vì họ không được học Hán tự như đàn ông. Ba phụ nữ cuối thế kỷ 10, đầu thế kỷ 11 đã giới thiệu cái nhìn về cuộc sống và sự lãng mạn ở triều đình Heian trong "Tinh Linh Nhật ký" ( Kagero nikki) do mẹ của Fujiwara Michitsuna viết, "Truyện gối đầu" của Sei Shōnagon và "Truyện kể Genji" của Murasaki Shikibu. Nghệ thuật bản xứ cũng nở hoa dưới sự cai trị của nhà Fujiwara sau hàng thế kỷ noi theo hình mẫu Trung Hoa. Những bức vẽ phong cách Nhật Bản sặc sỡ yamato-e về đời sống triều đình và những câu chuyện về đền thờ và nơi linh thiêng trở thành thông dụng vào giữa và cuối thời Heian, trở thành khuôn mẫu cho nghệ thuật Nhật Bản ngày nay.
Khi văn hóa phát triển rực rỡ, sự phân quyền cũng ngày càng trầm trọng. Trong khi sự phát triển shōen vào đầu thời kỳ Heian đã chứng kiến việc khai hoang nhiều đất đai mới và việc phong đất cho các gia tộc và các thể chế tôn giáo, thời kỳ thứ hai chứng kiến gia sản các "gia tộc triều đình" phình lên. (Thực tế, hệ thống gia tộc cũ vẫn gần như còn nguyên vẹn ở trong triều đình tập quyền cũ). Các thể chế mới nay cần đối diện với sự thay đổi về xã hội, kinh tế, và chính trị. Luật Taihō mất hiệu lực, các thể chế của nó bị gạt khỏi chức năng nghi lễ. Hệ thống hành chính gia đình nay trở thành thể chế chung. Khi gia đình quyền lực nhất Nhật Bản, nhà Fujiwara thống trị Nhật Bản và quyết định mọi việc triều chính, ví dụ như việc thừa kế ngai vàng. Việc gia đình và triều chính hoàn toàn bị trộn lẫn, một hình mẫu được bắt chước bởi các gia đình khác, các tu viện, và thậm chí cả Hoàng gia. Việc quản lý đất đai trở thành công việc chính yếu của các gia đình quý tộc, không nhiều sự quản lý trực tiếp từ Hoàng gia hay chính phủ trung ương vì quyền lực của họ đã suy giảm và sự đoàn kết lớn trong gia đình và việc thiếu ý thức thống nhất quốc gia của người Nhật.