至元三年（1266年），忽必烈遣兵部侍郎郎赫德、礼部侍郎殷弘出使日本。忽必烈在国书中，对这次遣使的目的讲的极其清楚，要日本效法高丽，举国来朝以通和好，如不相通好，将至“用兵”，令日本“王其图之”。被日本以书辞无理，不能接受，予以退回。此后几经出使，均被日本拒绝。

从至元十年（1273）起，忽必烈开始着手部署征日战争。至元十年四月，耽罗岛林衍起义，反对高丽王的统治，忽必烈乘机派元军驻高丽。之后，元军于耽罗岛设招讨司，驻扎镇边军一千七百人，从而控制了日本与南宋间的海上通道，由此可以使元军可以全力进攻日本。随后，忽必烈召忻都、金方庆等至元大都（今北京）商议征日事宜。至元十一年（1274）正月，忽必烈命令高丽王造舰九百艘，其中大舰可载千石或四千石者三百艘，由金方庆负责建造；拔都鲁轻疾舟（快速舰）三百艘，汲水小船三百艘，由洪茶丘负责建造，并规定于正月十五日动工，限期完成。

六月，九百艘军舰完工，上报世祖忽必烈，忽必烈遂命令由蒙、汉、高丽三族军队组成的联军，东征日本。联军的核心是蒙元部队计有蒙汉军二万人、高丽军五千六百人，加上高丽水手六千七百人，共三万二千三百人，由征东都元帅忻都、右副帅洪茶丘、左副帅刘复亨统帅，八月出发。

当时的蒙古军队经过成吉思汗的训练，军纪森严，每十人、百人、千人、万人各为一个战斗队，每队设一长率领，组织极为严密，因此英勇善战，战斗力很强。此外，元朝当时的火器使用技术在世界上处于领先水平，曾经威镇欧洲,所以火炮作为此次征日作战的秘密武器,出现在元军的战斗序列中。

而日本武士部队的基础是守、介地头制（庄头制），是源赖朝建立幕府时期形成的兵制。任守、介地头职的武士，多为有功于历代将军或执权的家臣，即“御家人”。守，是掌握某一地方兵马大权的最高行政长官，但从其品秩看，也不过是从五位上到正六位下的中下级官员；地头，是管理公私土地进行征税的官吏，并对其管理的土地拥有警察权，其职位更低，隶属于守。他们按其管理的土地面积大小，蓄养私兵。某一守率队出征，其一族的家人、族人即成为该守部队的骨干随同出阵，守所辖的地头，亦率其家人、郎黨自成一队，归守指挥。这种主从关系构成的部队，组织巩固，不易溃散，散而可以重聚。家臣以死于君主马前为荣，因此战斗力颇强。但是，这种队伍又各自为战，指挥不统一，战斗时偏重于一骑对一骑的单打独斗方式，因此战斗几乎是混乱、无组织、无纪律的，不易于指挥，无战术可言，根本无法和元军相抗衡，整体战力相当弱。