Новая организация общества оформилась в процессе развития системы вассальных отношений. Стержнем ее стал ряд видных военных домов. Крупнейшими из них были Тайра и Минамото, оба включавшие потомков императорской семьи и основанные людьми, которые оставили столицу с тем, чтобы попытаться получить власть в провинции. Тайра первоначально осели в районе Канто на востоке, где в 935 один из них выступил против центра. Развернутая против него кампания была отмечена подъемом рода Минамото, который приобрел большое число сторонников как в Канто, так и в районах, прилегавших к столице. Тайра отреагировали на это расширением своего влияния на побережье Внутреннего Японского моря.

Минамото создали альянс с Фудзивара, подавив ряд мятежей, вспыхнувших в 11 в. на периферии. Однако в 12 в. Тайра также успешно сблизились с двором, оказывая поддержку отрекшимся императорам. В 1156–1159 Тайра Киёмори, победив в противостоянии по вопросу о престолонаследии, захватил власть и удалил большинство представителей Минамото из государственных учреждений. В 1180, произошло восстание в Канто под предводительством Минамото Ёримото. После пяти лет сражений Тайра были окончательно разгромлены в морской битве при Данноура (1185).