元代的军队体系十分庞大，包括了蒙古军、探马赤军、汉军以及新附军等。蒙古人在漠北草原上依然维持着兵民合一的游牧生活，当战争爆发时，他们便会迅速出征；平时则聚集于牧场，进行养殖。在中国内地，元朝采取了一种固定的户籍制度来征召士兵，其中壬子年间（1252年）对户口进行了第一次大规模登记，并明确区分了民户和军户。多数被编入元朝的蒙古人以及金国降将家属都被归类为“军户”，而一些汉族和其他民族的人也陆续加入到了这个系统中。
这些从事农业劳动的士兵可以免除一定数量土地上的税收，这块土地被称作“赡军地”。蒙古、探马赤及汉三路的士兵都是由名为奥鲁的人物管理。奥鲁负责起草当年的男性丁男服役并补充因战死或逃跑而导致缺员的情况，同时还要保证所有服役人员所需的装备和武器能够按时准备好。这三个不同的部队下面的奥鲁机构分别隶属于万户或千户，而汉族部分则由管辖区域内的地方官员管理。
新附军，即南宋降将组成的一支力量，没有设立这样的奥鲁机构。
在元朝时代，国家防御工作主要分为两大部分：一是京师宿卫系统，一是镇守全国各地区域戍卫系统。宿卫中的怯薛与侍卫亲近构成了皇宫内部最重要的保护力量。当忽必烈建立他的帝国后，他保留了成吉思汗创立的大怯薛轮番入侍制，使得这群武士负责值班，并且直接向皇帝或者高级臣子汇报。在此基础上，还有更多专门用于环绕首都护卫的地方部队，被称作侍卫亲近，由枢密院直接控制。
随着时间推移，在末期阶段成立了多个大小不等的心腹武力单位，每个单位都配备有指挥官，其品级与万侯相当（正三品），并受枢密院领导。而色目人中的优秀战士们，则通常会被招募到这些精锐部队中去服务。
至于镇守诸多地方驻扎的地面部队，它们主要由蒙古骑兵和探马赤骑兵担当华北、陕西及四川等关键地域的事务。此外，华北及周边地区还有大量来自各省行省之下的警备团体，这些团体在需要紧急调动的时候由行省枢密院统筹，但日常事务则交由行省本身处理。不过对于调遣更换防线以及其他重大决策仍然受到中央枢密院严格控制。
关于整个国家庞大的战斗力分布情况，只有皇帝及其最高层次下的 蒙古官员才掌握全貌，而每个行省所拥有的战斗力信息也只限于其首领知晓。
