元代的军队由蒙古军、探马赤军、汉军和新附军组成。在漠北草原，蒙古人依然过着兵民合一的游牧生活，只有在战争时期才会出征。对于汉地的士兵，他们是通过从固定的户籍中签发来服役的。1252年，大规模征调民户时，就已经明确了区分农民和士兵两个不同的群体。在内地，大多数被收编的人家，无论他们是蒙古人还是金国或宋朝降将，都被登记为士兵；此外，还有一些其他民族的人也陆续被招募成为士兵，而这些新招募的士兵通常由中等阶级充当。作为回报，这些士兵可以免除四顷田地税款，被称为“赡养军事力量”。
负责管理这些蒙古、探马赤军和汉军（包括金国降将并在华北地区接受元政府签发的部队）的，是名为奥鲁的地方官员。奥鲁负责起草当年的男性丁男入伍，并且及时替换那些去世或缺席的人员以补充部队空缺。此外，奥鲁还需要确保每个当役中的士兵都得到所需的一切装备，如鞍子、马匹以及其他物资。这三个团体中的奥鲁，由于它们隶属于万户或者千户直接领导，而汉族地区则由管辖该区域的地方官兼任。
另一方面，元朝末期并没有设立新附（南宋降将）这一类别下的奥鲁。
元代的防御系统主要分为两大部分：一个是在首都大都周围设置守卫系统，其中包括怯薛骑手和侍卫亲卫构成；另一个则是镇守全国各地的大量城堡与要塞。这两个系统都是为了保护国家安全而存在。
怯薛骑手常驻宫廷附近，以保障皇帝安全。而侍卫亲卫则用来环绕京畿进行巡逻，由皇帝本人或他信任的大臣直接指挥。当时，侍卫亲卫共有三十多个单位，每个单位下面还有自己的指挥官，其品级相当于万户府之职位，也归属枢密院领导。
至于镇戍诸如华北、陕西和四川等地区，则主要由蒙古武装以及探马赤武装担任监视。此外，在南方也有这样的部队，他们分别来自不同的省份，但最终都汇聚到行省下面去执行任务。不过，即便是在平常时候，这些地方性的部队仍然受枢密院高层指挥。而全面的战略计划，则只有最高权力者——即皇帝与枢密院成员知道。而关于具体战术安排，以及如何调动各个地区之间的支援，那么只能让各自区域内最高层次人物——即行省总督们了解情况。但实际上，对这整个庞大的帝国防御体系掌控权的是那位无所不知的情报总监——仅有的几个人耳语知晓其真实数量。
