元代的军队体系十分复杂，包括蒙古军、探马赤军、汉军、新附军等多个组成部分。在漠北草原上生活的蒙古人，他们在战争时出征，在平时则回归到游牧生活中。他们和其他族群的人民在战与和之间都保持着紧密的联系。对于汉地地区，元朝采取了一种稳定的制度，即从固定的农户中抽调士兵，这一制度自蒙哥二年开始就已经明确区分了农户和士兵。
进入中国腹地的大量蒙古人以及被收编的金国及宋朝降将之家，都被登记为士兵。这些士兵不仅来自于本土，还包括了其他各族人民。此外，还有一些新签约成为士兵的人口，他们通常由中级官员管理。这些士兵可以免除四顷土地上的税赋，这些土地被称为“赡养地”。
关于奥鲁，它们是负责管理各个团体中的男性当兵服役并补充失去战斗力成员的一种机构。而且，它们还负责提供给正在服役的男性所需装备如鞍子、马匹以及武器等物资。这两者都是由万户或者千户直接管理，而那些南宋降将组成的新附军则没有设立这样的机构。
元朝对国家安全有着严格而全面的防御系统，主要分为两大部分：一是京城宿卫系统，由怯薛（侍卫）和亲王侍卫构成；二是镇守全国各地的戍防系统。这两个系统互相配合，以确保国家安全。在京城内外部警备工作，由皇帝或高级宰相直接指挥，并设立多个卫队，每一个都有自己的指挥官。
至于边疆地区，如华北、陕西、四川等地，则主要由蒙古骑手和探马赤骑手驻扎。这些地方由不同的地方总管来统领，并隶属于枢密院。而在南方，则以不同民族的人作为守护者，其中以临江沿淮地区最为重要。当需要时行省会统筹一切事务，但实际上所有重大决策仍然受枢密院领导。
由于整个帝国的地形广阔且人口众多，全帝国下属部队的情况只有最高君主及枢密院里的几位蒙古官员才了解，而行省内的小规模部队信息也只限于首领知晓。这是一个高度集中的权力结构，同时也是为了维持帝国秩序的一个必要安排。
