元代的军队体系由蒙古军、探马赤军、汉军、新附军等部分组成。在漠北草原上，蒙古人依旧维持着兵民合一的游牧生活模式，当战事发生时，他们便会迅速集合出征；平时则继续进行牧业活动。至于汉地地区，元朝的士兵主要来源于固定的户籍系统。据记载，在蒙哥二年（1252年），大规模的户籍登记工作中，对民户和军户进行了明确区分。此外，大量被收编的金国降将及宋朝官兵家庭，也被划为军户，并且他们中的部分成员还被新签入成为实实在在的人力资源。而对于那些不愿意或不能从事农业劳动的人们，他们通常会担任中层管理职务。
这三种类型的軍戶都受到了名為奧魯（Orto）的官员管理。这位奥鲁负责从这些当地居民中抽调适龄男子作为士兵服役，并且负责替换因死亡而无法履行义务的人员，以补充部队缺额。此外，奥鲁还需要确保所有应征士兵能够获得必要的装备和物资供给。这些各自独立但又互相协作的小型单位是整个帝国防御体系中的关键组成部分。
除了这些地方性的防卫力量之外，还有更大的国家级别的一些重要机构，如怯薛（Qishi）与侍卫亲军，这两者构成了京师守卫系统的一部分。在忽必烈建立起他的统治之后，他保留了四个怯薛轮流进宫侍候皇帝这一制度，这样做既保持了稳定，又保证了中央集权。此外，由于其卓越表现，一些色目人也得以加入侍卫亲衙团体。
至于镇守全国各地的是另外一种形式，它包括了一系列不同的部队，其中最重要的是由蒙古和探马赤军所组成的大型武装力量。华北、陕西以及四川等地区，则分别由各自的地方性指挥官来领导并控制。而在南方，那里的重点是防御江边沿淮区域，是由蒙古人的主导下混合使用各种不同族裔的人力资源去完成任务。
此外，不同的地理区域，其隶属关系并不总是一致，而是根据具体情况而变化。如果是在战争状态下，那么所有这些组织都会直接向枢密院汇报；然而，如果是在平静时期，那么它们就归属于对应的地理行省。但无论如何，都有一个共同点：即对于每个地区来说，只有少数最高级别的官员才知道实际上那里究竟有什么样的武装力量存在，以及它们到底多强大。
