元代的军队体系十分复杂，包括蒙古军、探马赤军、汉军、新附军等多个组成部分。在漠北草原上生活的蒙古人，他们在战争时出征，在平时则回归到游牧生活中。他们和其他族群的人民在战时成为一支强大的战斗力量。
元朝的内地士兵主要来自于固定的户籍系统，其中从壬子年（1252年）开始就有了明确区分民户和军户的制度。大多数被编入蒙古帝国或是金国降将家中的男丁都被登记为“军户”，而且还有许多汉族或其他各民族的人也陆续被纳入到这个系统中，并且由所在地的官员负责管理。
这些不同的武装部队都是通过奥鲁来进行管理。奥鲁不仅负责从这些士兵中抽调人员服役，还要负责为这些服役者提供必要的装备和补给。此外，奥鲁还需要按时替换那些因故离开岗位或死亡的人员，以维持整个部队的完整性。
元代国家防御体系分为两大部分：首先是保护首都的大都，这些守卫由怯薛和侍卫亲军构成；其次是镇守全国各地，这些地方性的防御力量则主要由蒙古人和探马赤人的部队组成。侍卫亲军通常用作环绕京畿地区进行警戒，而作为皇帝直属单位，其领导层与万户府相当高的地位。
至于镇戍诸营，它们主要分布在腹里地区，由蒙古人和探马赤人的部队担当。而南方，则以蒙古、汉及新附三种势力相互参差驻扎，以保障沿江沿淮区域安全。行省下的防务单位在平常时间下隶属于行省，但紧急情况下仍需向枢密院汇报并接受指挥。而关于全体兵力的总数，只有皇帝以及枢密院中的几个最高级别官员才知道，而行省下的具体信息也只限于它们最顶层领导者了解。
