元代的军队体系十分复杂，包括蒙古军、探马赤军、汉军、新附军等多个组成部分。在草原上生活的蒙古人依然保持着兵民合一的游牧生活方式，只有在战争时期才会集体出征。对于在汉地地区服役的士兵，元朝采取了固定的户籍制度，即从固定的人口中抽调一定比例的人力来充当士兵。1252年，蒙哥二年大规模进行户籍登记并明确区分了民户和军户。
新征入的大量 蒙古人及其家属，以及被收编的金国和宋朝降将，其家庭也被纳入到这个制度之中，并以此为身份标识。而那些签约成为新任用的汉族或其他民族的人们，也逐渐加入到了这个系统中，他们通常担任中级官员。
这三个类型的士兵——即蒙古、探马赤以及汉族士兵，都由名为奥鲁（Orto）的管理机构来管理。这类机构负责从居民那里征调适龄男子作为战士，并且负责替换因阵亡而产生的一些空缺位置。此外，它们还负责提供给这些战士所需的一切物资，如鞍子、武器及其他装备。这些奥鲁是直接隶属于万户或者千户下面的单位，而汉族人的奥鲁则由管辖区域内的地方官员兼职。
至于南宋降将组成的“新附”军事力量，则没有设立这样的管理机构。
元代下的防御体系主要分为两大部分：一是京师（大都）的宿卫系统；二是镇守全国各地的镇戍系统。宿卫部队主要由怯薛和侍卫亲王构成，其中怯薛按照轮班制进入皇宫供奉，而侍卫亲王则用来环绕首都进行警护。一直到元朝末期，这些侍卫亲王共计三十余个，每个团队由指挥使或率使领导，他们的地位与万户相当，并归枢密院管辖。而色目人中的优秀战士往往被提升至侍卫亲王团队之中。
镇戍诸部份布局上，腹里主要是由蒙古和探马赤两个种族占据。而华北及陕西四川等地，则分别由各自地域内的地方性势力统领，由枢密院监管。在南方，以蒙古、新附及汉族部队共同驻扎，以防御临江沿淮地区。此外，还有一些行省性的地方武装，其日常事务交给行省处理，但重要决策仍然需要枢密院批准。此外，全体武力的数量信息只有皇帝与枢密院最高官员知道，而行省内部只知晓自己的具体情况。
