[223年]，张郃同夏侯尚一起进攻江陵。张郃别督诸军渡江，攻取洲上屯坞，击败孙盛屯坞里的主力部队万余人，又是大功一件。
　　 [227年]，魏明帝曹叡即位，张郃奉命屯兵荆州，与司马懿进攻孙权部将刘阿等人，追至祁口交战，击败吴军。
　　 [228年]，蜀相诸葛亮第一次北伐，南安、天水、安定三郡响应。魏明帝曹叡加张郃位特进，使督诸军，与蜀将马谡战于街亭。马谡依守南山，下不据城，被张郃截断水源，杀得大败。继而，张郃又平定了三郡的反叛。魏明帝曹叡下诏嘉奖张郃，增加食邑1000户，前后一共4300户。司马懿在荆州训练水军，欲从沔江顺流进入长江伐吴，魏明帝曹叡命令张郃率关中诸军去荆州接受调度。张郃到达荆州后，正值冬天水浅，大船无法通行，于是又回军屯驻方城。同年年底，诸葛亮第二次北伐，出散关围陈仓。魏明帝曹叡急招张郃进京，把三万士兵交给他指挥，并派遣武卫、虎贲等侍卫保护张郃。魏明帝还亲至河南城置相酒送，问张郃能不能来得及救援陈仓，张郃判断诸葛亮军没有粮草，一定不能持久，便回答等援军赶到时，诸葛亮已经退走。张郃率军连夜赶到南郑，诸葛亮果然退军，于是奉诏还于京都，被拜为征西车骑将军。
　　 [231年]，诸葛亮第四次北伐，张郃随司马懿前往相拒。后诸葛亮粮尽退兵，张郃追至木门，与诸葛亮军交战，被飞矢射中右膝，死亡，被谥为壮侯，儿子张雄继嗣。由于张郃前后征战有功，魏明帝分张郃的食邑，封张郃的四个儿子为列侯，封他的幼子为关内侯。
　　 张郃通晓应变之术，擅长布置营寨，预料战势、地形，一向准确，即使诸葛亮都对他有所顾忌。张郃虽为武将，却喜欢儒士，曾推荐同乡的卑湛，被皇帝下诏嘉奖，将张郃比作爱好儒学的东汉大将祭遵，并将卑湛提升为博士。