元代的军队体系由蒙古军、探马赤军、汉军、新附军等部分组成。在漠北草原上，蒙古人依旧维持着兵民合一的游牧生活模式，当战事发生时，他们便会集合起来出征，而平时则回归于牧业。至于汉地，元朝招募士兵的方式则是从固定的户籍中抽签选择。而在1252年，蒙哥二年的壬子年份，一次大规模的户口登记中，对民户和军户进行了明确区分。进入内地的大多数蒙古族居民以及被收编的金国和宋朝降将家族，都被划分为军户，并以此身份入籍。此外，还有许多汉族或者其他各族的人们陆续被纳入新成立的军队系统，其中一般都由中层官员担任。
这些蒙古、探马赤及汉族（包括金国降将）中的士兵都是通过奥鲁这个管理机构来进行管理。奥鲁主要负责两项职责：一是从农家抽取适龄男子作为士兵服役，并且当前线上的士兵死亡后，由其家庭中的弟弟承接其位置，以补充战力；二是确保那些需要前往作战的人员能够得到必要的装备如鞍马、武器和物资供应。对于蒙古和探马赤部队所属的奥鲁而言，它们隶属于该地区万户或千户之下，而汉族部队所在地区则由管辖该区域的地方官员兼任管理工作。而南宋投降并加入元朝后建立的一支新附軍，则没有设立这样的机构。
在元代，全境防卫可以分为两个主要系统：一个是在首都大都周边设置的一个宿卫制度，以及另一个是镇守全国各个地点的一个戍防制度。在宿卫系统中，有怯薛（一种高级武官）与侍卫亲王构成，这些人员轮流值班，在皇宫附近执行警戒任务，常规配备超过一万人，其指挥权直接授予皇帝或他信任的大臣手中。而侍卫亲王则用于保护京畿地区，其数量先后增加到三十余个，每个单位拥有相当于万户府的地位（正三品），隶属枢密院领导。
至于镇守诸多地方驻扎着不同的部队布局，其中腹里主要由蒙古与探马赤部队担当华北、陕西及四川等地的事务，由各地统领下的“都元帅府”负责管理，这些部门也归属于枢密院领导。在南方，为了防御对抗来自江南方向威胁，以 蒙古种族及其他种类的人员共同参与驻扎，而防御重点集中在临江沿淮河谷地区行省管辖范围内的小型要塞也受行省政府领导，但重要事件如调动更换哨点等仍然需要枢密院协助处理。不过，只有皇帝及其枢密院中的高级官员才知道整个帝国现有的总体力量情况，而每个行省所拥有的具体力量信息同样只有最顶尖级别的官方掌握。
