蒙古灭高丽后，策划进攻日本。1274和1281年，蒙古军两次入侵日本，遇到顽强抵抗，又遇台风，被迫退兵。镰仓幕府虽然赢得反侵略战争的胜利，但从此内部矛盾激化，开始由盛转衰。由于执权偏爱嫡系，引起旁系和因战争而破产的御家人的不满，双方一度火并，终于动摇了镰仓幕府赖以生存的御家人制度。与此同时，下层群众的反抗斗争活跃，出现所谓“恶党”运动。于是，后醍醐天皇（1288—1339年）在部分大封建主支持下开始倒幕。1333年，幕府派足利高氏发兵讨伐，但他中途倒戈，攻陷京都，镰仓幕府灭亡。1334年，后醍醐天皇重返京都，执掌朝政，并改元建武，史称“建武中兴”。1336年，足利尊（足利高后改“高”为“尊”）起兵攻占京都，自任征夷大将军，重建幕府，足利幕府（1336—1573年）[49]的统治开始。后醍醐天皇化装逃往吉野，建立新朝廷，是为南朝，与足利尊在京都拥立的北朝光明天皇分庭抗礼，史称“南北朝时代”（1336—1392年）。1392年，第三代将军足利义满合并南朝，南北对立基本结束。
足利幕府也仿照镰仓幕府设立政所、侍所和问注所，但权力缩小。侍所首领称“所司”，由赤松、山名、一色、京极四家担任，称“四职”。不设执权设执事（后改为管领），由旻山、斯波、细川三家轮流担任，称“三管领”，携助将军处理具体事务。地方上设“镰仓府”，由将军之子任“公方”，直接控制关东十国。在九州、中国、奥州、羽州设“探题”，派亲信任“守护大名”，掌握军政大权。其他各国设守护。守护大名是足利幕府的主要支柱，其政治、经济、权力不断扩大。例如，山名氏兼十一国守护，其领地占全国的1/6，成为割据一方的大封建主。将军的权力越来越小，与守护大名不断发生冲突。1467年（应仁元年），幕府内部因将军继承问题发生武装冲突，双方动用兵力达27万之众，混战10年，使京都遭到严重破坏，文物建筑化为灰烬，史称“应仁之乱”（1467—1477年）。日本开始进入长期混战的“战国时代”（1467—1573年），直到室町幕府灭亡。