刘曜被后赵石虎打败后，苻洪退至陇山（地处宁夏南部）一带，石虎来攻，苻洪见势不妙，便毫不犹豫的缴械投降。石虎高兴之余，封其为冠军将军，“委以西方之事”（《晋书》），进入后赵权力中枢。乱世要靠实力说话，苻洪能在后赵立足，并深得石虎器重，这都得益于他敏锐的政治头脑。他曾向石虎建议“徙关中豪杰及羌戎内实京师”，就是把关中有本事的人，以及羌胡各族势力迁到邺都（今河北临漳县境内），这样一来有两个好处，一是可以网罗人才，稳固京师，壮大后赵实力；二是可以有效牵制边远的羌胡力量。简单的一句话，却能看出苻洪的目光如炬，以及对时局的敏感。于是石虎委任苻洪为龙骧将军、流人都督，让他具体督办此事。后来苻洪战功显赫，又被封为西平郡公，他的部下被赐封关内侯爵位的便有二千来人，苻洪成了关内领侯将，权倾一时，成为后赵的实力派。

苻洪的第三次投降，虽属被逼无奈，然而却在客观上加速了他帝王霸业的建立。苻洪势力渐强，又深得石虎器重，招来冉闵的嫉妒，冉闵（就是后来颁布“杀胡令”大诛胡羯，将后赵灭国的冉魏国皇帝）向石虎建议除掉苻洪，以绝后患，结果石虎没听（这也足见石虎对苻坚是非常信任的）。等石虎死后石遵即位，冉闵又鼓动石遵，石遵惹不起冉闵，便去掉了苻洪都督职务。苻洪见势不妙，在后赵也没什么混头了，便退驻枋头（今河南浚县西），遣使投降了东晋。苻洪在枋头很快站住了脚，开始培植发展自己的势力，靠着昔日的威望，一些流民相继投靠，很快便“众至十余万”（《通鉴》），渐成割据一方的实力派人物。

有实力当然有魅力，事实上，苻洪的态度很快来了个180度的大转弯。冉闵与石赵翻脸后，石鉴取代石遵称帝，又想拉拢苻洪，封他为都督关中诸军事、征西大将军、雍州牧、领秦州刺史。这一次，苻洪没有理会，不屑的对属下说，“吾不堪为天子邪”（《通鉴》），我就不能自己当皇上吗？语气变得如此之硬，在路卫兵看来，一方面，苻洪还在生后赵的气；另一方面，苻洪有了自己的队伍，便有了讨价的本钱；更重要的一点，苻洪此时羽翼既丰，有了称霸的野心，再也不想看别人的脸色了。东晋一方对苻洪也很重视，任命他为征北大将军、都督河北诸军事、冀州刺史、广川郡公，专事北伐事宜。苻洪降晋、东晋收留重用苻洪，应该说双方各有各的心思，东晋有利用苻洪之嫌，想以胡制胡，作壁上观，求渔翁利；而苻洪降晋，也不过是一时的权宜之策，依靠大树好乘凉，以便出师有名，好趁乱夺取关中，建立自己的霸业。事实上，苻洪出师不久，便自称大将军、大单于、三秦王，将东晋皇室撇在了一边。