元代的军队体系十分复杂，包括蒙古军、探马赤军、汉军、新附军等多个组成部分。在草原上生活的蒙古人依然保持着兵民合一的游牧生活模式，当战争爆发时，他们会迅速出征，而平时则返回家园进行牧业活动。到了中国内地，元朝采取了一种制度，即从固定的户籍中抽调士兵，这一制度在蒙哥二年就已经得到明确规定了。被编入元朝的大多数蒙古家庭，以及那些投降于金国和宋朝后归顺元朝的人们，都被称为“军户”。这些“军户”不仅免除一定数量的税收，还能获得特定面积的地产作为补贴。
管理这些“军户”的机构是奥鲁，它负责起草当年的男性丁男参与战斗，并在必要时替换战死或死亡的士兵以补充失去的一员。此外，奥鲁还需要按时为服役中的士兵提供所需装备和物资。对于蒙古和探马赤军来说，这些奥鲁隶属于更高级别的万户或千户；而汉族人的奥鲁，则由管辖该地区的地方官员来兼任。而新附軍这一团体由于其特殊历史背景，没有设立类似的机构。
至于防御系统，元代可以分为两大部分：一是京城的大都周围设置了宿卫系统，由怯薛和侍卫亲王构成，其中怯薛负责轮班值勤，以此保证皇帝安全。而侍卫亲王则主要用于保护京畿区域，其规模庞大，有时候甚至超过万人，被直接指挥由皇帝或其信任的大臣掌控。
另一方面，对于镇守全国各地的是镇戍系统。这其中主要由蒙古和探马赤两个集团担任关键角色，在华北、陕西以及四川等地，其最高统治者来自各自地区的都万户府（都元帅府），并受枢密院控制。在南方，如临江沿淮等重要区域，则有不同的混合部队，其中包括了蒙古、汉族以及新附軍成员。但无论是在行省还是在中央，只有极少数的人知道整个帝国范围内所有部队的情况，更只有少数高级将领才了解行省内部具体情况。
