元代军队的部署，凸显出忽必烈等人的谋虑，表现了内外相维、层层控扼的特征。大都、上都和“腹里”地区，驻扎中央宿卫军队，作为军事控制的核心。北面草原上的蒙古军和驻守在黄河南北、陕川要地的探马赤军，合成一圈藩护中央的防线。在江南地区及沿边地区戍守的汉军及“乡兵”等，则形成一道更大的防线。一旦发生战争，不但当地军队参战，邻省军队和探马赤军等都可迅速调来；如需要的话，侍卫亲军亦可出征。探马赤军监视各行省的汉军等，又有侍卫亲军作为后盾，形成一套较严密的镇戍体系。蒙古建国初期，没有兵种的区别，军队全为骑兵。招降到汉军之后，有了步兵，不久又将制造和使用攻城炮具的工匠、军人集中起来，称为炮军或炮手军；各军中擅长水战的人也被编组在一起，组成水军或水手军。入元之后，炮军和水军受到高度重视，尤其是水军的训练和扩编被纳入军队发展计划之内，并在灭宋战争中起了重要的作用。除了在一些万户府中配备炮军和水军外，元廷还设立了炮水手元帅府、炮手军匠万户府、水军万户府、水军元帅府等专门机构。这些机构和军队，大多属于地方镇戌军队系统。调入都城的炮手工匠等，则大多隶属于军器监（后改武备寺）。上述各种军队，都是元代的正式军队。此外，还有一种“应募而集”，“不给粮饷，不入帐籍，俾为游兵，助声势，掳掠以为利”的军队，蒙古人称为“答刺罕军”，汉人称之为“乾讨虏军”，实际上是一种“无籍军”。其成员多为“无赖侥幸之徒”，拢民尤甚，朝廷曾多次下令收编与禁罢这种军队，但到元朝末年还可见到它的踪迹。元代军队的总数，在文献资料中没有留下明确的记载，这与蒙古统治者“以兵籍系军机重务，汉人不阅其数，虽枢密近臣职专军旅者，惟长官一、二人知之”的制度有关，“故有国百年，而内外兵数之多寡，人莫有知之者”（《元史·兵志一》）。元朝初期的水军蒙古人不熟悉水战，成吉思汗时，蒙古国无水军可言。太宗四年(1232年＞，聚众坚守信安的张进(霸州保定人)降蒙。因为“信安城四面阻水”，所以张氏属下多为水军。张进降附后，蒙古军开始有了水军。太宗六年(1234年)，张进被金将国用安袭杀，窝阔台命其子荣实继续领军，授职征行水军干户。太宗九年(1237年)，张荣实改任雄州、保定、新城长官，十二年(1240年)，“复命统领水军”，又以易州定兴人解诚为水军万户。当时蒙古军队抄略宋境。经常在江河湖汉区域内作战，水军日益受到重视，不少汉军万户下部有了水军。到忽必烈即位前，散在各万户的水军有：河阴县达鲁花赤胡玉、干户王端臣军704人；八柳树干户斡来军361入；孟州庞抄儿赤、张信军190人；滨涂州海口总把张山军100人；沧州海口达鲁花赤塔刺海军100人；陀州盂春军55人；霸州石抹纮查刺军195人。