军队主要由四部分构成：蒙古军，由蒙古人包括部分色目人组成的部队;探马赤军,初指从蒙古诸部抽取精锐组成的前锋、重役或远戍部队，后来也有色目人、汉人等加入；汉军，即由原金朝地区的汉人和部分女真人、契丹人组成的部队，还包括早期改编的南宋降军；新附军,即灭南宋前后改编的原宋军。此外,侍卫亲军中还有不少按族属组编的色目人部队。军队按十进制编制，分为万户府(统兵3000～7000人)、千户所（统兵300～700人）、百户所、牌子(10户)等4级,分由万户、千户、百户、牌子头统领。非蒙古军的万户府、千户所又置“达鲁花赤”，是为监军官，专由蒙古或色目贵族担任。万户府上设都万户府、大都督府等，侍卫亲军在千户所上设指挥使司。蒙古军（包括色目人部队）主要是骑兵。汉军、新附军大多为步军，也配有部分骑兵。水军编有水军万户府、水军千户所等。炮军由炮手和制炮工匠组成，编有炮手万户府、炮手千户所，设有炮手总管等。一部分侍卫亲军中，还专置弩军千户所，管领禁卫军中的弓箭手。军队依承担任务的不同，区分为宿卫和镇戍两大系统。宿卫又分为皇帝直辖的“怯薛”军和由枢密院统领的侍卫亲军，平时主要护卫宫廷，守卫京畿，战时也出京征伐;镇戍诸军,屯戍于全国冲要地区。北方是蒙古军、探马赤军的重点戍防地区；淮河以南主要由汉军、新附军屯戍，并配置部分蒙古军和探马赤军。边境地区由分封或出镇其地的蒙古宗王所部和土著部族军配合镇守。蒙古国时期的军队，主要分成蒙古军和汉军两大类。蒙古军蒙古军以草原各部的蒙古人为主体，“其法，家有男子，十五以上，七十以下，无众寡尽料为军”，按十进制编组成十户、百户、千户，“上马则备战斗，下马则屯聚牧养”。千户是基本军事单位。十五岁以下的儿童，被编组成“渐丁军”，蒙古语称为“怯困都”军，作为蒙古军的后备力量。在战争中陆续被蒙古统治者招降和掳掠来的哈刺鲁、钦察、唐兀、阿速、康里、畏兀儿、回回、阿儿浑等族人中的丁壮，亦有不少“隶蒙古军籍”（《元史·也蒲甘卜传》），被编入蒙古军之中。蒙古军平时分布在草原上驻牧，战时临时招集。随着战争的发展，统治者需要一支蒙古军队长期留守被征服地区，于是从蒙古各部中“签发”了部分士兵，组成专门用于镇戍的探马赤军。探马赤军官兵被派出去镇戌后，仍与蒙古本部保持密切联系，所以从体制上来说依然属于蒙古军系统。为有效地控制刚刚统一起来的蒙古各部和确保蒙古汗廷的安全，成吉思汗从蒙古各部中征调了一万名精锐士兵，作为大汗的常备护卫军，称为“怯薛”。怯薛由宿卫千户、箭筒士千户和散班八千户组成，负责护卫大汗，并操持汗廷的日常事务。怯薛分为四班，每班由功臣博尔忽、搏尔术、木华黎、赤老温或其后人充任怯薛长，率领“怯薛歹”（护卫士）宿卫汗廷，三日一换，称为“四怯薛番直宿卫”。在战争中，怯薛则是全军的中坚力量，被称之为“也客豁勒”（大中军）。