元代的军队体系十分复杂，包括蒙古军、探马赤军、汉军、新附军等多个组成部分。在漠北草原上生活的蒙古人，他们在战争时出征，在平时则回归到游牧生活中。他们和其他族群一样，都有兵民合一的生活方式。而在汉地，元朝的士兵来源主要来自于固定的军户制度。1252年，大规模进行了户口登记，并明确区分了民户和军户。在内地，大量被收编的金国降将及宋朝降将，以及其他民族的人们，也都被编入到了这个制度之中。
这些士兵中的大部分是通过奥鲁来管理的。奥鲁负责起草应征士兵以及替补那些战死或逃跑的人员。此外，奥鲁还需要为服役中的士兵准备装备和武器等必需品。而蒙古、探马赤军以及汉军中的奥鲁，则隶属于各自所在万户或者千户下，而新附軍則没有设立这样的机构。
元朝时期，还有一套严密而复杂的防卫系统，其中包括京城宿卫系统和镇守全国各地的地方防御系统。宿卫部队由怯薛和侍卫亲王构成，而忽必烈建立之后保留了成吉思汗创立的一套轮番侍从制，用以保护皇宫。这两种类型的人员都直接受命于皇帝或高级官员指挥。而另一方面，由于战斗力强大的色目人，被大量编入到了侍卫亲王中。
至于镇戍诸部，则主要由蒙古人及其属下以及探马赤人的力量维持。一方面，华北地区的大多数地区由蒙古与探马赤人共同维护；另一方面，在南方，则是由蒙古、汉族及新附軍共同参与，以确保江淮沿线区域安全。此外，这些地方性的镇戍部队在日常运作上受行省管理，但其调动命令仍然直属中央枢密院统管。此外，全体武力的具体总数，只有皇帝及其枢密院最高层次人员才知道，而对于行省内部也只有首领知情。
