元代的军队由蒙古军、探马赤军、汉军和新附军组成。在漠北草原，蒙古人依然过着兵民合一的游牧生活，只有在战争时期才会出征。对于汉地的士兵，他们是通过从固定的户籍中签发来服役的。1252年，大规模征调时，就明确了民户和军户的区分。多数被征召到内地的人，以及金国和宋朝降将家中的成员，都被登记为军户；此外，还有一些其他民族的人也陆续被招募成为军户，他们通常由中等阶层充当。
这些蒙古、探马赤及汉族（包括金国降将）以及新签约入伍的人都受奥鲁管理。奥鲁负责从各个家庭中抽取适龄男子供役，并替换那些因战死而缺员的士兵。此外，奥鲁还负责为服役中的士兵提供必需品，如马匹、武器和盘缠等。但是新附军没有设立这样的管理机构。
元代的防御体系主要包括两部分：一是守卫首都的大都，而二是在全国各地设置镇戍部队。大都附近由怯薛和侍卫亲王构成宿卫力量。这两个团体轮流值班在宫廷周围，以保护皇帝安全。而侍卫亲王则用于护卫京畿地区，到了元朝末期，一共设立了三十多个这样的单位，每个单位由指挥使或率使领导，他们的地位相当于万户（正三品），直接隶属于枢密院。
至于镇戍部队，其布局主要以蒙古及探马赤部队为主，在腹里进行驻扎。而华北、陕西及四川等地，则分别由各地方千总府统领，这些地方官员直接向枢密院汇报。而南方，则以蒙古、新附及汉族部队相互搭配进行驻扎，以防御临江沿淮地区。此外，由行省管辖的地方性镇戍力量，在平时下属行省管辖，但在紧急情况下仍需听命于枢密院。不过关于整个武装力量的情况，只有皇帝及其枢密院上的蒙古高官们知道，而行省内部，也只有最高级别的官员才能了解具体情况。
