1260年初，从蒙、宋前线匆匆北返的忽必烈抵达燕京。他在燕京附近驻扎了将近三个月。蒙哥汗亲征时留镇漠北的阿里不哥，竭力诱使忽必烈口到草地，好逼迫他就范，再名正言顺地登上大汗宝座。忽必烈则清楚地意识到，在阿里不哥鞭长莫及的情况下，自己在控制和调动进入汉地的蒙古军及汉军方面拥有莫大的优势与便利。因此他不肯轻易离开经营有年的中原而贸然北上。双方间使臣往返，交涉不断，矛盾日趋激化。1260年4月中，忽必烈拘禁阿里不哥派往燕京的心腹脱里赤，先发制人，在新筑成不久的开平城宣布即大汗位。

拥戴忽必烈最积极的宗王，是成吉思汗幼弟斡赤斤的孙子、在东道诸侯中居长的塔察儿。他曾因攻宋无功而返，受到蒙哥汗的严厉训斥。早在事态还相当微妙时，忽必烈就派廉希宪到军前结欢于塔察儿，相约“若至开平，首当推戴，无为他人所先”。这为日后由塔察儿“率先”，从而诱逼在场的其他宗室“相继劝进”安排了最关键的一着。合辞推戴的诸王，还包括移相哥（合撒儿子）、忽刺忽儿（合赤温孙）、合丹（窝阔台子）、阿只吉（察合台曾孙）等。一度滞留于汉地军中的蒙哥子阿速台这时已北投阿里不哥，没有与会。

践柞次月，忽必烈以《即位诏》颁行天下。诏书明确宣布。“祖述变通，正在今日”。它表明了新政权参用中原王朝的传统体制以改变“文治多缺”局面的决心。又次月，复以建元中统诏天下，更明确地强调新政权之为中朝正统、“天下一家”的地位。

建国之始最早的新行政机构，是统辖中原汉地政事的燕京路宣慰司。翌月，以王文统、赵壁为中书省平章政事，但这时候的“中书省”似乎还不像是国家正式的中枢机构，建制也极不完备。倒是燕京宣慰司所属的各路宣抚司则渐次创置：不久就进一步完善为十路宣抚司的建制。主持各路宣抚司的官员，大多是汉人（包括祖居中原的契丹人）出身的政治家，少数是汉化程度很高的色目人如廉希宪、赛典赤等。中统元年七月，升燕京宣慰司为燕京行中书省，王文统、赵壁并以中书省平章领行省事，它实际上承担了当时朝廷临时行政中枢的职能。中统二年敦促南宋履行鄂州城下之盟的移宋三省牒文，就是以燕京行中书省的名义颁布的。

与此同时，忽必烈又毫不迟疑地着手征调和组编忠于他个人的精锐部队，用以保卫大汗，戍守北方各地，尤其是燕京、开平一线心腹地区。由于蒙哥的怯薛大军在扶枢北归后大部滞留于漠北，忽必烈便在潜邪宿卫的基础上迅速扩充、重建大汗的怯薛部队。此外他还多次征集各地兵员，很快组建起拱卫京畿的侍卫亲军。统领侍卫亲军的，是多年跟随他出生入死的亲信董文炳等将领。立国之初，“目前之急虽纾，境外之兵未戢”（《元史·世祖纪一》）。为防范阿里不哥，朝廷亟命“诸路市马万匹送开平府”，“诏燕京、西京、北京三路宣抚司运米十万石”至漠南沿线，很快完成了扼守大漠南缘、伺机渡漠远征的战前部署。为了集中力量首先征服阿里不哥，忽必烈在中统头两年对南宋的背约行为也采取极为克制的态度。他虽在蒙宋交界线“置江淮、江汉两大都督，东则李璮，开府益都；西则史权，开府邓州，与宋扬州、襄阳两别帅犄角”。但他的意图只在镇边，并不急于攻宋。国信使郝经被拘，不过遣官诘问而已；宋私商违禁越境买卖，“诏宥之，还其货，听榷场贸易”；甚至当南边将士求战心切，“皆以举兵南伐为请”时，忽必烈也只是下一纸诏文，虚称当待“秋高马肥，水陆分道而进，以为问罪之举”，藉以慰抚军心。