元代的军队体系十分复杂，包括蒙古军、探马赤军、汉军、新附军等多个部分。在漠北草原上，蒙古人依然维持着兵民合一的游牧生活，当战争爆发时，他们便会迅速出征；平时则聚集在一起进行牧业生产。至于汉地，则是通过固定的户籍制度来征募士兵。1252年，大规模的户籍调查和征召发生在蒙哥二年的壬子年（即公元1252年），此时已经明确了民户与军户的区分。在内地，大量被收编的金国降将及宋朝降将之家，以及其他族群的人们，都被归类为军户，并且由中级官员负责管理。此外，还有一些汉族或其他民族的人口也逐渐被纳入新签约的军户系统，而一般来说，这些新加入者通常担任的是中等阶层的地位。
这些来自蒙古、探马赤以及汉方（即金国残部）的士兵都受到了奥鲁统治者的管理。奥鲁不仅负责从当地居民中选拔男性作为士兵服役，而且还要处理那些因战死而产生缺额所需补充人员的问题。此外，奥鲁还需要确保每名服役士兵能够获得必要装备，如骑马器具和武器等。对于那些参与戍守的大型单位，如万户府（亦称元帅府）下的各个单位，其下属的小单位则直接受万户或者千夫长指挥。而对于南宋降将组成的一支新附军，那么他们并没有设立这样的管理机构。
在元朝时代，国家防卫可以大致分为两大体系：首先是保护皇宫及其周边区域的大型宿卫系统，其中包括怯薛班和侍卫亲王这两种不同的武装力量。在忽必烈建立起自己的政权之后，他保留了成吉思汗创立的一个四怯薛轮番侍候制，即每天轮流有四个怯薛班值班，在皇宫内行走，以此来增强对皇室安全的保障，同时这些人通常都是由皇帝本人或者他信任的大臣直接命令执行。而侍卫亲王则主要用以环绕京畿地区进行警戒，当到达末期的时候，有三十多个这样的卫队，每一个都配备了一位高级指挥官，比如都指挥使或者率领使职务，这些人的身份相当于万夫长一样，并且隶属于枢密院最高决策机构。
至于镇守全国各地的地方性防御力量，其布局主要集中在腹里区域，由蒙古和探马赤两个势力共同担当。而华北、陕西、四川等重要地区，则由分别设立于这些地方的大型领导机构——如“都元帅府”或“都万户府”来统一管理，这些领导机构又归属于更高层次的枢密院最高决策部门。在南方，则是由不同民族之间互相参差驻扎构成的一支混合部队，其中重点防御区域是在临江沿淮河岸线附近地区。当涉及到紧急调动或更换防线的时候，不论是日常事务还是重大战略安排，一切都会通过行省行政部门实施，但最终仍需得到枢密院这一中央政府部门批准。整个国家庞大的武力结构，只有极少数知情者才知道其中具体细节，即只有掌握最高权力的皇帝以及一些顶尖高级官员知道全面的情况，而对应的地理位置上的地方性武力，也只有其首领才能了解全部的情况。这意味着整个国家所有的情报与信息都是高度集中化且严格控制起来，以保持国家安全与稳定。
