元代的军队体系由蒙古军、探马赤军、汉军、新附军等部分组成。在漠北草原上，蒙古人依旧维持着兵民合一的游牧生活模式，当战事发生时，他们便会迅速集合出征；平时则继续进行牧业活动。至于汉地地区，元朝的士兵主要来源于固定的户籍系统。记载显示，在蒙哥二年（1252年），大规模的户籍登记工作中，对民户和军户进行了明确区分。此外，大量被收编的金国降将及宋朝官兵家庭都被划为军户，并且随着时间的推移，还有其他族群的人也陆续被纳入到这个制度中，这些新加入的人通常是以中级官员身份服役。
在这种制度下，参与作战并获得赡养保障的是那些承担四顷土地免税粮食的人们，这种土地称作“赡军地”。这些土地可以作为补偿，以鼓励人们从事农业生产。
关于管理这批士兵，包括蒙古、探马赤以及汉族部队，都通过奥鲁这一机构来进行。奥鲁负责从各个家庭抽调适龄男子当兵，同时也负责替换因死亡而缺席的一名士兵，以及提供所需装备和物资给当役中的士兵。这一系统下的领导层设定了万户和千户这样的职位，而汉族部队则由地方管辖官员共同管理。
不同于上述体系的是新附军，即南宋投降人员，不设立奥鲁机构直接受行省管辖。
在防御方面，元朝实行双重防线策略，其中一个重点是京城的大都，其宿卫力量由怯薛与侍卫亲王构成。忽必烈建立起帝国后，他保留并完善了成吉思汗创立的心腹禁卫团——四怯薛轮番侍寝制，它不仅用于保护皇宫，也充当了一种政治工具，用以加强中央集权。而侍卫亲王，则是专门用来环绕首都及其周边区域防御之用，在元末期先后设立三十多个这样的武装单位，每个单位拥有相当高的地位，与万户相比同样属于正三品，其最高指挥者隶属枢密院直接领导。
至于镇守全国各地诸多要塞与边疆地区，则主要依靠蒙古及探马赤两大部队。此外，还有一些色目人部队由于其卓越表现，被编入侍卫亲王团伍。在华北、陕西等重要战略区域，由各自的地方性的蒙古统领机关负责治理，而在南方，则有更复杂的情况出现，其中包括使用不同的民族混合部队，如使用モン古人、汉人以及新附人才参差交错驻扎，以确保对临江沿淮一带最关键区域安全防护。
此外，无论是在警戒还是日常运营方面，只有皇帝或枢密院内高级官员才知道整个国家境内实际存在多少精锐骑士。而对于行省内部的情报掌握情况，那就更加严格，只有第一线指挥官才获知具体细节。这一切都是为了保持国家安全与效率不受影响。
