元代的军队由蒙古军、探马赤军、汉军和新附军组成。在漠北草原，蒙古人依然过着兵民合一的游牧生活，只有在战争时期才会出征。对于汉地的士兵，他们是通过从固定的户籍中签发来服役的。1252年，元朝进行了一次大规模的户口普查，并明确了民户和军户之间的区别。大多数被征服的人们以及金国和宋朝降将，都被编入了军户。而那些新加入或被征服的人们，也会陆续成为新的军户，其中的一些则需要充当“中户”，通常是负责种田免税四顷土地，这样的土地称为“赡军地”。
蒙古、探马赤軍及汉軍中的士兵都是由奥鲁管理。这位奥鲁负责起草当年的丁男入伍，以及替换因死亡而缺员的士兵。他还需要确保所有服役人员都有所需如鞍马、武器和其他装备。此外，随着时间推移，一些地区也设立了更高级别的地方官员来管理这些事务。
元代在防御方面分为两大系统：首先是京师的大都周围宿卫系统，其次是在全国各地镇守的小站系统。宿卫部队包括怯薛（一种侍卫）和侍卫亲近武士构成。在忽必烈建立起自己的政权后，他保留并维持了成吉思汗创立的一个制度，即每个月轮流派遣四个怯薛进入宫廷作为皇帝护卫，每个团共计超过一万人，由皇帝本人或其信任的大臣直接指挥。
另外，还有一支名为侍卫亲近武士（或者叫做亲王护卫）的部队，它们主要用于保护京畿地区。在元朝末期，有三十多支这样的部队，每支部队下设都指挥使或率使，他们与万户相同等级（正三品），归属于枢密院。
至于镇守诸方之力的布局，则以蒙古武士及探马赤骑兵为主，对于华北、陕西等地则由各地方上的蒙古总督府统领，而隶属行省的话则有可能受到行省内枢密院直接调动，但平时日常事务还是归属于行省管辖。不过，在重要事情上，如调动更多力量到某一地点进行防御工作，那么仍旧需要枢密院参与决策。此外，整个国家里拥有多少精锐战力只有皇帝与枢密院中的最高领导才能知晓，而行省内部也不例外，只有首领才能了解到具体数字。
