冯奉世平定莎车后，遣回各国兵士，继续西行，直抵大宛。大宛已经听到了他的名字，可谓先声夺人，因此他受到隆重的接待。大宛君臣对他倍加敬重，因而他顺利地完成了使命，临别时大宛赠送名马象龙表示与汉朝的友好之情。冯奉世荣归长安，宣帝甚为高兴，提议为他加封官爵。众大臣认为冯奉世不辱使命，有功于国，应予爵士之封。少府肖望之提出异议，他认为冯奉世擅自发动小国之兵，虽有大功，但是不可引人效法，如果加封冯奉世，将来他人出使时贪功趋利，也要与冯奉世攀比，私自动用兵马，在万里之外为求功名而与他国寻衅滋事，那样一来恐怕无事生非，给国家带来更多麻烦，所以他认为不应给冯奉世加封。宣帝认为肖望之的看法也有道理，便未封爵，只任命他为光禄大夫、水衡都尉。
　　 汉元帝初元元年(前48年)，冯奉世被任命为执金吾，职掌北军。不久，上郡(今陕西省北部)一万多原来归降汉朝的胡人发生叛乱。冯奉世持节率兵前往打击，稳定了边境局势。初元三年，右将军典属国常惠死后，冯奉世调任为右将军典属国，掌管少数民族事务。几年后升为光禄勋。
　　 永光二年(前42年)秋，驻守陇西的护羌校尉辛汤因嗜酒任性，多次侮辱羌人，终于激怒了羌众，导致反抗朝廷。元帝召集丞相韦玄成、御史大夫郑弘、大司马车骑将军王接、左将军许嘉、右将军冯奉世一齐入朝，讨论对策。当时连年遭受自然灾害，谷价上涨。每石谷子在京师卖二百余钱，边疆郡县则卖四百，关东地区竟至五百。全国出现饥馑，时有饿死人的报告传到朝廷，因而皇帝亦产生忧虑，担心饥民铤而走险，在这种时候，发生羌人反叛的事情，朝中将相都感到难办，一筹莫展。
　　 冯奉世说道：“羌虏近在境内背畔，不以时诛，亡以威制远蛮。臣愿帅师讨之”(《汉书·冯奉世传》)。元帝问他需要多少兵力。冯奉世回答：“臣闻善用兵者，役不再兴，粮不三载，故师不久暴而天诛亟决。往者数不料敌，而师至于折伤；再三发軵，则旷日烦费，威武亏矣。今反虏无虑三万人，法当倍用六万人。然羌戎弓矛之兵耳，器不犀利，可用四万人，一月足以决”(《汉书·冯奉世传》)。意思是善于用兵的人，只用人服一次兵役即可，所需军粮转运三次就够了。绝不能长久地让兵士在战场服役而遭天灾杀灭。以往对敌军的人数估计不足，往往失败之后才又派兵员，那样就耽搁了时间又浪费财物，而且也影响了士气，有失威武。如今估计叛军约三万人，按常理应出兵六万。但我清楚羌兵武器不精，给我四万人马，一个月的时间，也可以平定叛乱。
　　 但丞相、御史、两将军皆以秋收大忙为理由不支持他的意见。说只能发兵一万去边地实行屯戌(一边驻防一边做农事)。冯奉世坚持自己的意见，说“不可。天下被饥馑，士马羸秏，守战之备久废不简，夷狄皆有轻边吏之心，而羌首难。今以万人分屯数外，虏见兵少，必不畏惧，战则挫兵病师，守则百姓不救。如此，怯弱之形见，羌人乘利，诸种并和，相扇而起，臣恐中国之役不得止于四万，非财币所能解也。故少发师而旷日，与一举而疾决，利害相万也。”(《汉书·冯奉世传》)是说现在由于天下饥荒，战备物资十分缺乏，周边各少数民族都不把汉朝放在眼里，所以才有羌人敢于反叛。如今只派一万人分散到边境地方驻屯；敌人看到兵少，肯定不害怕，已经动乱起来的羌人乘我方势力软弱，如再煽动别的部族，一起反叛，我恐怕到那时国内也得不到安宁了!
　　 尽管冯奉世一再据理力争，但他的建议最终也没有被采纳。元帝只同意出征兵员由一万增至一万二千人。
　　 冯奉世不得已，只好带兵员以屯田为名出发，典属国任立、护军都尉韩昌均为副将，到达陇西之后，分兵三处屯驻。典属国任立为右军，驻军白石；护军都尉韩昌为前军，驻军临洮；冯奉世自为中军。前军到达降同坂后，派出两名校尉，一与羌人争取有利地形，一去广阳谷搭救被掠民众，结果羌人众多，两校尉被杀。于是驻屯的军人都感到各自力量单薄，不敢轻易出动，形成首尾不能相顾的局面。冯奉世赶忙绘制了地图，并写出作战计划，报奏朝廷，希望增兵三万六千人。元帝派遣太常弋阳侯任千秋领奋武将军衔带兵援助，并给冯奉世派去六万余人。