元代的军队体系十分复杂，包括蒙古军、探马赤军、汉军、新附军等多个组成部分。在漠北草原上生活的蒙古人，他们在战争时出征，在平时则回归到游牧生活中。他们和其他族群一样，都有兵民合一的生活方式。而在汉地，元朝的士兵来源主要来自于固定的军户制度。1252年，大规模进行了户口登记，并明确区分了民户和军户。在内地，大量被收编的金国降将及宋朝降将，以及其他民族的人们，也都被编入到了这个制度之中。
这些士兵中的大部分是通过奥鲁来管理的。奥鲁负责起草应征士兵以及替补那些战死或逃跑的人员。此外，奥鲁还需要为服役中的士兵准备装备和武器等必需品。而蒙古、探马赤军以及汉军中的奥鲁，则隶属于各自所在万户或者千户下，而新附軍則沒有設立這種系統。
元朝時期還有一個重要的地缘防卫系统，即京师宿卫与镇守全国各地的一系列镇戍系统。这两个系统分别由怯薛軍與侍衛親軍构成。在忽必烈建立政权後，他保留了成吉思汗創立四怯薛輪番入侍之制，用他們來保護皇宮並充當護衛侍從員，这些成员常额超过一萬人，由皇帝亲信直接指挥。另外，还有侍衛親軍用於环卫京畿，並且随着时间推移，其数量不断增加，最终设立三十余个卫团，每个团由都指揮使或率使领导，他们的地位相当于万戶（正三品），隸屬於枢密院。
至於鎮守诸城的小部队，则主要由蒙古軍與探馬赤軍負責，其中华北地区由各地區の蒙古總管府統領，這些部隊也隸屬於枢密院。而南方則以蒙古軍、漢軍、新附軍相互支援，以防御临江沿淮地區。此外，有些行省下的鎮戍小隊則會受到行省官僚節制，但調遣更動等重要事務仍然受枢密院控制，只有皇帝和一些高級官員知道全體武力的具体情况。而行省內部只知其首領而已。这就形成了一种高度中央集權化的命令系統，使得整个国家能够迅速响应并发动战争。不过，这种复杂性也带来了信息不对称的问题，因为只有极少数最高级别的人才知道国家整体的情况。
