元代的军队体系十分复杂，包括蒙古军、探马赤军、汉军、新附军等多个组成部分。在漠北草原上生活的蒙古人依旧保持着兵民合一的游牧生活方式，当战争爆发时他们会出征，而平时则聚集在一起进行牧业生产。至于汉地地区，元朝招募士兵主要依靠从固定的户籍中抽签制度。在蒙哥二年（1252年）的大规模征税行动中，就明确了将民户和军户分开。这一制度下，大多数被纳入内地的大量蒙古人以及金国和宋朝降兵，都被登记为正式的军户成员。此外，还有一些汉族或其他民族的人们陆续被编入新的一批军户，这些人通常由“中户”担任。作为回报，他们可以免除四顷土地上的税收，这块土地称作“赡养地”。
这些不同的部队——包括来自蒙古及探马赤家族的小队，以及那些来自金国而归顺于元政府统治华北的小队——都由名为“奥鲁”的管理机构负责。奥鲁的职责之一是从各个家庭中选取适龄男子来服役，并且在有必要时替换因战死或病亡而留下的空缺位置。另一个重要任务是确保每位当兵的人能够得到所需的装备和补给，如鞍子、马匹、武器和其他物资。
对于不同类型的部队来说，奥鲁受万户或千夫长直接指挥。而那些来自南宋降臣构成的小型团体，被称作新附軍，则没有设立类似的奥鲁系统。
此外，在元朝期间，有两种主要形式的防御体系：一种是保护首都大都及其周围区域安全；另一种是在全国范围内布防镇守各个地方。一方面，由怯薛（即亲卫）与侍卫亲王组成的心腹近卫力量负责宿卫京城之事。而另一方面，忽必烈建立起皇帝直属的心腹近卫制，其中心思想创始者成吉思汗提出的轮流值班侍候皇帝这一制度，用以保障宫廷安全。这一制度一直持续到忽必烈时代，一共有四支这样的小队，每支轮流进入禁区执行护卫任务，每支小队约有1000人左右，由皇帝本人或者其最信任的大臣直接指挥。
另外还有专门用于环绕京畿地区警戒的是所谓侍卫亲王，这些士兵形成了三十余个独立单位，每个单位由一个率使领导，其级别相当于万夫长（正三品），隶属于枢密院。
至于镇守诸多边疆的地方性武力，它们主要由来自蒙古及探马赤家族的小型部落群体以及一些忠诚度较高且战斗力强劲的手picked troops构成。在华北、陕西及四川等关键地域，由分别成立并负责地方治理权力的各省份最高行政官员掌控这类武力组织，并报告给中央枢密院处理重大事务。在南方，对抗敌对势力的重点则集中在临江沿淮地区，以便更有效地阻止敌人的侵扰。此外，不同行省内部所有这些非中央化控制下的边境防线都会经常根据需要转移人员调动，以应对紧急情况。但是关于整个帝国范围内所有这些派遣出去维持秩序与安宁的手动手臂数量信息，只有几个拥有最高权限的人知道，那就是皇帝自己以及他身边最可靠、高贵的地位人物；而行省里的任何信息也只限于该行省里头衔最高的地位人物了解情况。
