元代的军队体系十分复杂，包括蒙古军、探马赤军、汉军、新附军等多个组成部分。在草原上生活的蒙古人依然保持着兵民合一的游牧生活模式，战争时期他们会集体出征，而平时则继续进行牧业活动。至于在华北地区，则元朝通过固定的户籍制度来选拔和管理士兵。1252年，大规模的户籍调查便明确区分了民户与军户，并对这些不同的群体有所规定。
进入内地后，大量蒙古族人口以及被收编的金国和宋朝降将家属都被登记为“新签”的军户。这类人通常由中等级别的官员负责管理。此外，还有一些汉族或其他少数民族的人口也逐渐被纳入到这种制度之中，他们中的大多数担任的是中等级别的事务官职位，即“中户”。
对于那些参与战争并且失去生命的人，其家庭成员会承担起替补他们服役的情形，以此来弥补战场上的损失。此外，这些官员还需要负责为参加战斗的人员准备必要的装备和物资。探马赤军和汉军（主要是来自金国降将）的管理工作则主要归属于名为奥鲁的地方行政单位负责。
新附軍（即南宋降将）則没有設立這種機制。元代在軍事防禦方面，可以分為兩大系統：第一個是負責守衛首都的大都及其周邊地區；第二個則是負責鎮守全国各地，這些地方部隊主要由蒙古軍和探馬赤軍構成。
宿卫系统主要由怯薛（一种低级武士）和侍卫亲王构成，其中怯薛轮番值班以保护皇宫，而侍卫亲王则用于环绕京城进行警戒。当忽必烈建立他的帝国后，他保留了四怯薛轮番值班这一制度，用他们作为禁卫团队，以保证皇帝安全。而侍卫亲王则用于保护京畿区域，在元末时期形成了三十余个这样的单位，每个单位都设有指挥官，品级相当于万戶（正三品），直接隸屬於枢密院。
镇戍诸部队布局上，腹里地区主导权属于蒙古骑兵与探马赤骑兵。而华北、陕西、四川等地，则分别由本地域内设置的大臣统领，这些地方部队隶属于枢密院。而在南方，由蒙古骑兵、汉族部队以及新附盟友共同维护边疆防线，其中临江沿淮一带尤其重要，因为它面临着来自敌对势力的威胁。在行省下辖的地面力量，其日常运作交由行省处理，但调动更换驻扎点及重要战略决策仍需报请枢密院批准。不过，对于整个国家下的总体兵力情况，只有皇帝与枢密院最高领导层才拥有全貌信息，而行省内部只知晓自己辖区内的情况。
