而在赵沐调兵遣将准备将怀县城外的异族联军一网打尽时，素利的鲜卑人悄悄退到了上党，准备围困张懿的并州军，其实并州地区相对平缓，适合耕种或是屯兵，并不适合设伏，素利也是好不容易才在上党西北找到了一片相对陡峭的山谷，决定在此地伏击张懿的并州军。
就在张懿的军队行至上党准备往河内怀县时，素利在张懿的并州军必经之路上展开了阵型，张懿看到素利的军队也并不意外，因为自己的四万大军行进，踪迹很难隐藏，既然素利来了，直接正面击溃就好了。
素利为了成功引诱张懿进入上党西北的山谷带来的人马并不多只有五千，主力都在上党西北的山谷中，张懿看到素利只有五千人，觉得要先挫一挫异族的锐气，决定先把素利的这些人马全部击溃，于是张懿指挥并州剩余的一万骑兵对着素利率领的五千鲜卑骑兵展开了猛烈的进攻，并州骑兵作为常年与异族作战的边军，战力自然不差，与鲜卑骑兵战斗不落下风，且由于人数优势，将素利的五千骑兵打的节节败退。
为了让败退显得更加逼真，素利并没有第一时间选择撤退，而是让鲜卑骑兵拼死抵抗，最后再佯装不敌败退，而张懿看到鲜卑人如此激烈的抵抗再次朝大军发起了命令，并州军的弓箭手朝着鲜卑骑兵发起了射击。
鲜卑骑兵一时不察数百骑兵被纷纷射倒在地，配合并州骑兵的攻击一瞬间将鲜卑骑兵的前部瞬间斩杀的干干净净，然而惨烈的厮杀还在继续，双方都已经杀红了眼，鲜卑骑兵仿佛忘却了自己乃是诱敌而已，看着惨烈的双方素利认为时机已到，赶忙让手下士兵集合向着伏击地点退去。
张懿将剩余的鲜卑骑兵全部剿杀过后，开始追击逃跑的素利，张懿决定定要将这伙敌军全部歼灭，因此下令并州军全速前进，追赶素利。
就这样双方一追一逃了两个时辰，素利成功将张懿引至上党西北的山谷，只见素利率领剩余的士兵往山谷一钻不见了踪影，张懿看着煮熟的鸭子竟然飞了，肯定不能放过，命令并州全速追击，通过山谷，而手下的部将见前方山谷鸟不入林认为一定有埋伏，劝诫张懿还是小心为上，可已经上头的张懿却认为素利已经被吓破胆了，不可能有埋伏，执意让并州军通过山谷。
就在并州军半数通过山谷时，从山谷上方滚下来巨石及箭雨将山谷的并州军斩杀无数，整个山谷响起了并州军的哀嚎，好在并州军常年作战，立马纷纷开始寻找掩体，躲避巨石与箭雨。
看着不断被弓箭射杀和被巨石砸死的并州士卒，张懿心如刀绞，此刻的他全然没有了之前的意气风发，只剩下不断的懊恼和后悔，将并州军带入如此绝境，拿起手中的长剑就要自尽。
部将见张懿将剑抵住自己的脖子，拼死将张懿的剑夺下道“尚未到绝望之时，刺史怎可轻死。”张懿看着部将长叹道“我辜负了陛下的信任，将并州军带入如此境地，还有何面目面见陛下，唯有一死尔。”
部将劝道“刺史大人何必如此悲观，虽我等被困山谷，未必没有反败为胜之机，只要吕布将军与卫将军赵沐发现我等被围困，势必会遣人来救，届时我等来个里应外合，说不定可将匈奴鲜卑人一网打尽，将功赎罪。”