黃巾起義爆發后，張郃應征入伍，在韓馥手下任軍司馬。黃巾之亂平定后，袁紹帶兵攻打冀州，張郃戰敗后歸降了袁紹。在官渡之戰后，張郃擔心被袁紹怪罪，便投降了曹操。后來，張郃頗受曹操重用，跟隨曹操南征北戰。定軍山之戰中，在夏侯淵戰死后，張郃臨危不亂，率領軍隊安全撤退。曹丕即位以后，任命張郃為左將軍。公元228年，諸葛亮揮師北伐，張郃在街亭大敗蜀軍，因此被封為征西車騎將軍。在諸葛亮第四次北伐時，張郃領兵抗擊蜀軍，在木門谷中箭身亡。

張郃戎馬一生，是三國時期不可多得的猛將，他的膽氣被各路諸侯所欽佩。