元代的军队体系十分复杂，包括蒙古军、探马赤军、汉军、新附军等不同组成。蒙古人在漠北草原上以兵民合一的方式生活，当战争爆发时，他们会迅速出征，而平时则回归牧业。在中国内地，元朝采取了一种名为“签发”的制度来征召士兵，其中壬子年（1252年）的大规模徵兵活动尤为重要，它明确了民户与军户的区分。
很多被收编的金国和宋朝降将家人都被登记为军户，这些人的孩子们需要服役，但他们可以免税四顷土地，这叫做“赡养地”。蒙古、探马赤军以及汉族士兵，都由名为奥鲁的人物管理。奥鲁负责从各个家庭中征集适龄男性当兵，并替换战死或去世的士兵。此外，奥鲁还负责提供必要的装备和用品给服役中的士兵。这些部队受万户和千户指挥，而汉族部队则由地方官员管辖。新附軍則不設奧魯。
元朝時期還有兩個主要防衛系統：首都是由怯薛軍和侍衛親軍組成；而鎮守全國各地則是由蒙古軍與探馬赤軍負責。在忽必烈建立起大都後，他保留了成吉思汗創立的一種輪流入侍制，用來保護皇帝，這些士卒總數超過萬人，並且直接受到皇帝或高級臣子的指揮。而侍衛親軍則用於保護京畿區域，其品秩與萬戶相當，是枢密院下屬單位之一。
至於鎮守各地區之事，由蒙古與探馬赤二大勢力共同負責，其組織體系隸屬於枢密院。而南方地區，则有著不同的布局，包括临江沿淮地区，以保障国家安全。在行省区域内，也设立了行省枢密院统领镇戍诸营，但调遣更防等重大事宜仍需向中央枢密院报告。此外，全体武力的总数，只有皇帝及一些高级官员才知道，不同行省之间也只有少数知情者。这就反映出了元朝对其庞大帝国防御力量进行严格控制与保密的手段。
