張郃出生于河間郡鄚縣，東漢末年，他參加討伐黃巾軍的招募，擔任潁川郡人韓馥部下的軍中司馬。
初平二年，韓馥被迫讓出冀州以后，張郃帶兵歸順袁紹，被任命為校尉抵御北方諸侯公孫瓚。
公孫瓚被擊敗以后，張郃因為立功多，升任寧國中郎將。
建安五年，曹操與袁紹在官渡對峙，袁紹派遣部下淳于瓊等人督運糧草駐扎在烏巢，曹操親自率軍迅速來攻打。
張郃便勸說袁紹，現在曹軍精銳，淳于瓊等人一定會被擊潰，淳于瓊一旦兵敗，則將軍大勢已去，應該盡快派兵前去救援。
“而謀士郭圖則反對這個意見，他認為應該直接攻打曹軍本營，曹軍肯定會返回，困局自然解開。”
“張郃再勸，曹軍大本營守衛堅固，很難攻破，如果淳于瓊等人被抓，袁紹全軍就都要成為俘虜了。”
“然而袁紹更看中郭圖的意見，于是只派出輕軍去救援淳于瓊，卻用重兵讓張郃、高覽去攻打曹軍大本營，當時守營的主將是曹仁，他們未能攻下。”
“后來曹操果然擊敗了淳于瓊等人，烏巢糧草也被燒毀，袁紹軍隊潰敗。”
“郭圖為此感到羞慚，于是誣陷張郃，說他對于袁軍的失敗很高興，所以出言不遜。”
“張郃害怕被追究，便和將領高覽一起燒掉攻城櫓，投靠了曹軍。”
“曹操知道張郃來投十分高興，舉例說當初伍子胥沒有早早醒悟，使自身陷入危機，哪比得上微子拋棄殷紂，韓信離楚歸漢呢。”
“張郃被曹操任命為偏將軍，封爵都亭侯。”
“張郃受到曹操重用，被授與軍隊跟隨曹操攻打鄴城，成功攻下鄴城后，又跟隨曹操去渤海攻打袁紹的兒子袁譚。”
“后張郃親自率軍圍困雍奴，大敗了對方。”
“曹操征討柳城時，張郃與曹將張遼都擔任先鋒軍。”
“在白狼山一役，張郃受張遼指揮，大破烏桓，張遼斬單于蹋頓及許多各部落王，俘虜胡漢兩族二十余萬人，最終平定烏桓。”
“張郃因功升任平狄將軍。之后他又率兵去東萊郡討伐管承，再與張遼等人共同征討占據氐族六縣反叛的陳蘭、梅成。”
“陳蘭等人潛入灊山中的天柱山，其山險峻高二十余里，張郃隨張遼等人圍攻天柱山，最終攻下，大獲全勝，斬獲了陳蘭、梅成的首級。”
“張郃跟隨曹操到了渭南，擊潰了馬超、韓遂等人。”
“圍困了安定，降服了楊秋。又同曹軍將領夏侯淵一起征討鄜城的首領梁興及武都一帶的氐族人。”
“張郃抵達渭水上，馬超令氐族、羌族數千來抵御張郃。”
“還未交戰，馬超就退走，張郃率軍收取了馬超軍隊的軍用物資。”
“當夏侯淵到達時，諸縣皆已投降張郃。”
“再次攻破馬超的部隊后，張郃還平定了割據涼州的宋建的統治區域。”
“建安二十年三月，曹操親征占據漢中的張魯。”
“抵達陳倉后，準備自武都郡進入氐族部落；”