明太祖初设大都督府,洪武十三年(1380年)废大都督府,改设中、左、右、前、后五军都督府,分领在京各卫所和外地各都司卫所。规定五军都督府有统兵权,但无调兵权,调兵权由皇帝直接掌管。永乐间在北京设行在五军都督府,后除“行在”二字;在南京的五军都督府,加“南京”二字,分掌南京卫所。各府长官为左右都督。