元代的军队体系由蒙古军、探马赤军、汉军、新附军等部分组成。在漠北草原上，蒙古人依旧维持着兵民合一的游牧生活模式，当战事发生时，他们便会迅速集合出征；平时则继续进行牧业活动。至于汉地地区，元朝的士兵来源主要是从固定的户籍中抽调而来。在蒙哥二年（1252年）的壬子大规模征税过程中，明确了民户和军户的区分。进入内地的大多数蒙古人以及被收编的金国和宋朝降将家庭，都被登记为军户。此外，还有许多汉族或其他民族的人口陆续被纳入新签订的军户名单，这些新加入的人通常由中级官员担任。这些在田间耕作的人可以免除四顷土地上的税赋，被称作“赡养士兵之地”。
在管理上，所有来自蒙古、探马赤军和汉軍（包括金国降将与元政府在华北签发的一批士兵）的奥鲁系统都受到了统一管理。这意味着奥鲁负责从各自所管辖区域抽调适龄男子服役，并及时替换那些因病逝世或战死而缺失人员，以补充部队数量。此外，它们还负责为当月服役中的士兵提供骑乘工具、武器装备及日常用品等必要物资。
此外，在忽必烈建立起帝国后，他保留了成吉思汗创立的心腹卫队制度，即四个怯薛轮流侍候皇帝并守卫禁宫，每个团伍有数千人，由皇帝亲自指挥或委托亲信大臣掌握。同时，他也保留了一支侍卫亲王护卫队，这支队伍用于保护京畿周边地区，其设立时间较晚，与万户府同级别（正三品），隶属于枢密院。
至于镇守全国各地的防线，那里的主力则是由蒙古和探马赤两种力量构成。而对于南方以往属宋的地盘，则采用一种混合部署，将蒙古人的部队与本土居民共同驻扎，以防御临近江湖地区。一旦需要紧急动员或者进行更换防线任务，这些行省下的部队则会直接向枢密院报告，而非行省官员。而关于总体计数情况，只有皇帝及其枢密院中的高级 蒙古官员才知道具体数字；对行省下面的武装力量信息，也只有首领之一知情的情况下才能了解到详细情况。
