原先，蒙古凡是攻打城邑，城破之后，对城中兵民大肆屠杀，耶律楚材知道这样做会失去民心，就伺机进谏，革除此弊。这一年，蒙古军要征伐河南，耶律楚材为了避免屠杀无辜，建议将当地民众迁往山后开采金银，种植葡萄，既可不死，又可增加国家收入，窝阔台依计而行。次年春，蒙古军分数路扑向金都汴京，在将渡黄河时，又发出号令，对投降者一律免死。耶律楚材的这些措施，不仅挽救了众多百姓的性命，而且消除了中原人对蒙古军的畏惧和仇视心理，为蒙古军顺利南下扫清了许多障碍。1233年四月，蒙军攻入汴京，当时为躲避战乱留居汴京的147万人都保全了性命。1234年，窝阔台在耶律楚材的辅助下，灭掉了金国。还师的时候，河南的百姓大量逃亡。窝阔台很生气，下了禁令：凡逃亡之民以及收留资助者，灭其全家，乡社连坐。耶律楚材又进谏说：“河南既平，这里的老百姓都是大汗的子民，他们能逃到哪里去呢？又怎么能因为一人而连累其他人呢？”窝阔台幡然悔悟，立即撤销了这一禁令。
　　耶律楚材重视人才，主张“以儒治国”。他对窝阔台说：“天下虽得之马上，而不可以马上治。”蒙军占领汴京后，金国最著名的大文豪元好问派人给耶律楚材送来一封信，这就是著名的元好问《上耶律中书书》。元好问在信中向耶律楚材推荐了数十位金国各地的儒家名士，还建议要办学馆，讲习孔孟之道，逐渐改变蒙古人的观念。耶律楚材采纳了元好问的建议，使金国一大批人才保留下来。
　　另外，耶律楚材还在燕京等地建立编修所、经籍所，从事文化教育活动，文教事业开始兴盛起来。
　　经过耶律楚材多年的努力，儒学在蒙古上层政权中渐渐占了一席之地，使“武功”极盛的蒙古统治者，逐步收到了“文治”的效果。毫无疑问，这在汉人心理、舆论方面抢占了重要地位，对于以后元朝的统一、特别是一向疏于文教的蒙古族历史的发展，起到了不可低估的作用。
台星折，万民悲
　　耶律楚材以其卓越的政治才华，辅助窝阔台治理天下，但对于国于民不利的事情，他敢于进谏，不怕坐牢，不怕杀头，丝毫不比唐代的魏征逊色。
　　窝阔台八年，有个侍臣上奏，要增选美女，充用后宫，窝阔台诏令依奏实行，但耶律楚材却有意拖延不办。窝阔台十分恼火，言辞斥责耶律楚材。耶律楚材并不畏惧，进谏说：“已选美女28人了，足以备用，如再选美，臣恐扰民，正欲复奏。”窝阔台思考许久，点头答道：“此事就算了罢。”
　　不久，窝阔台又想向全国征用母马，中原一带农事繁忙，难免使农牧业失调。为此，耶律楚材规谏说：“田蚕之地，难以产马。如此行令，必然害民。”窝阔台这才取消了这一念头。
　　蒙族饮酒之风甚盛，窝阔台更是嗜酒如命。登位之后，竟然天天与大臣畅饮，直到大醉。耶律楚材屡次进谏，窝阔台就是不听。耶律楚材就拿着被酒浸泡而腐蚀的酒器，启奏说：“酒能腐蚀铁器，何况五脏？”窝阔台看了那酒器，终于悔悟了，当即对近臣下了每日限酒的命令。
　　窝阔台汗十三年（1241年），在蒙古军南下节节胜利的时刻，窝阔台突然一病不起，这年冬天竟死于外地行宫。窝阔台一死，他的第六后乃马真氏立即召见耶律楚材，征询汗位继承之事。耶律楚材说：“此非外姓之臣所应过问，自有先帝遗诏，望能遵嘱而行。”乃马真氏不从，竟然自己临朝称制。耶律楚材一时难以制止，只得徐图良策。
　　乃马真后重用奸商奥都刺合蛮，朝政日渐紊乱，国事日非。乃马真后竟将国印交给奥都刺合蛮，使他随意填写，擅发政令。耶律楚材反抗说：“天下本是先帝的天下，朝廷自有宪章，今欲紊乱制度，臣不敢奉诏。”经他强争，此事才算终止。