张铉在娄烦关以北部署了十万大军，其中尉迟恭率三万人守善阳县，李靖则率七万大军驻扎在雁门郡，李靖虽然率军北上，在紫河干掉了一万接应突厥军，但雁门郡依旧还有两万军队，由罗成率领。
三天前，罗成率领的两万大军便已经抵达了善阳县，和尉迟恭的军队汇合，魏文通夺取了娄烦关后的次日，便立刻向善阳县送了一封鹰信，请求尉迟恭支援。
尉迟恭和罗成天不亮便率领三万大军南下娄烦关，娄烦关距离善阳县并不远，直线距离只有八十里，但如果走官道则稍远一点，约百里左右。
中午时分，三万隋军抵达了东关镇，这里距离突厥军大营只有三十里了，这时，几名骑兵斥候从南面疾奔而来，为首旅帅来到尉迟恭面前，抱拳行礼道：“启禀尉迟将军，娄烦关已经发生了激战，突厥军正大举攻城，投入了数万大军，战事十分惨烈。”
“突厥大营还有多少人？”
“大约一万人左右。”
尉迟恭笑道：“康鞘利显然有点沉不住气了，六万大军居然投入五万人去攻城，完全忘记了要防御羊马城，只有一万人驻守，守得住吗？”
罗成虽然被封为虎贲郎将，但他的军职还是要低于尉迟恭，因此罗成表现得比较低调，他笑了笑道：“康鞘利或许认为我们不会立刻到来，对他而言，只要一天时间便能夺回娄烦关，然后再回头对付我们。”
“罗将军说得有道理，但娄烦关压力太大，我们必须立刻夺取羊马城，助魏将军一臂之力。”
“卑职倒有一个想法。”
罗成对尉迟恭低语几句，尉迟恭连连点头，“这是个好策略，可以节省时间，我们就这样办！”
两人当即兵分两路，尉迟恭率领两万步兵直扑羊马城，而罗成则率一万骑兵迂回绕到了突厥军大营的西面。
留守突厥大营的军队全部由突厥部落的士兵组成，康鞘利不可能让铁勒人来守羊马城，这支大军的主将正是高开道，不过高开道虽然名义上是万夫长，但他并不能服众，一万军队实际上是掌握在十名千夫长手中。
高开道正在羊马城内巡视，这时有骑兵疾奔而来，紧张地禀报道：“将军，巡哨有消息传来，一支两万人的隋军正从北面向羊马城杀来！”
高开道大吃一惊，他立刻意识到这是善阳县的隋军出动了，趁突厥大军前去猛攻娄烦关之时，前来袭击羊马城。
“传令各军准备迎战！”
高开道立刻下达了迎战命令，一万突厥军队纷纷上马，在羊马城外集结，高开道又急忙派人去通报康鞘利，请求康鞘利派兵回援。
突厥大营位于桑干水支流黄水河南岸，突厥大营在西面，而羊马城在东面，呈狭长形部署，绵延二十余里，其中军营和羊马城各占一半，黄水河畔的羊马城和紫河的羊马城一样，也是土木夯制，高约六尺，里面饲养了数百万头牛羊，这便是突厥大军南下的后勤保障，和娄烦关一样，都是康鞘利不惜一切代价要保护的战略资源。
此时，一万突厥骑兵已经顾不得大营，他们迅速在羊马城对岸集结，排列成长长的阵型，高开道还是有一点信心，对方只有两万步兵，而他们虽然只有一万人，但全部是战斗力强大的骑兵，这一战他们至少有六成把握战胜对方。
两万隋军也在两里外停住了脚步，开始迅速列阵，前排是五千弓弩手，后面则是一万五千长矛兵，双方都在等待着出击的命令。
但就在这时，忽然有人指着西面大喊：“火！大营起火了。”
众骑兵回头，只见大营方向火光冲天，浓烟滚滚，烈焰腾空，正迅速向羊马城方向蔓延而来。
突来的变故使得突厥骑兵一阵慌乱，队伍有点混乱了，高开道大喊：“不要慌乱，军营是座空营，我们要保住羊马城！”
话音刚落，队伍后面忽然一阵大乱，惨叫声四起，高开道大吃一惊，回头望去，只见羊马城的北墙边出现了无数的隋军骑兵，他们已经撞破了羊城城，从数十个口子冲了出来，一边奔驰，一边放箭，后排的突厥骑兵死伤惨重。
突厥骑兵惊恐万分，纷纷后退，就在这时，两里外的隋军阵营内鼓声大作，两万隋军士兵齐声呐喊，向突厥骑兵掩杀而来。
一万突厥骑兵腹背受敌，军心大乱，队伍混乱不堪，军队的士气也迅速消退，这时已经没有士兵再想与隋军决战了，各部落的千夫长只想保存自己的实力，纷纷调转马头向东撤离。
高开道急得大喊，却没有人理睬他，高开道万般无奈，只得率领数十名亲兵向东奔逃，刚奔出不到百步，一支隋军骑兵从斜刺里杀来，拦住了他们的去路。
为首是一名年轻的隋军大将，只见他锦袍银盔黄铜甲，白马银枪玉面郎，正是大将罗成。
高开道当然认识罗成，他曾投靠罗艺，在涿郡呆了一年多，和罗成打过无数次交道，没想到会在这里遇到罗成，高开道一下子呆住了。
罗成也是擒贼先擒王，他早看见了突厥军主将大旗，便锁住了这支军队，但他也没有想到，对面的突厥主将竟然是高开道，罗成半晌冷笑道：“我还以为高将军早死了，没想到阴魂不散，居然混到突厥哪里去了，今天遇到我，看来也是一个天意！”
高开道深知罗成厉害，连忙哀求道：“玉郎，看在昔日我效忠令尊的面上，放我这一次吧！”
“呸！”
罗成冷冷吐了口唾沫，“出卖民族的败类，还敢和我套近乎，我若是你，早就一头撞死，也免得辱没了祖宗。”
高开道大怒，“小畜生，受死吧！”
他挥动三尖两刃刀，催马向罗成杀去，罗成不慌不忙，银枪一抖，长枪如梨花暴雨般向高开道刺去，一连刺出数十枪，杀得高开道手忙脚乱，这时，长枪如闪电般向高开道胸口刺来，高开道本能的举刀格挡，不料这只是虚招，不等高开道反应过来，长枪已经刺到了高开道脖子。
高开道只觉脖子一阵剧痛，他大叫一声，竟被罗成挑下马来，罗成复一枪，结果了高开道的性命，高开道屡屡从危险中逃脱，但正如那句话：不是不报，时候未到，高开道最终没有逃过天道，死在了罗成的手中。
高开道被杀虽然并没有影响到突厥军队的军心士气，但此时突厥军已全线崩溃，一万突厥骑兵是由大大小小十个突厥部落组成，每个部落首领出任千夫长，率领自己的部落士兵。
如果在杀戮抢掠之时，这些部落会团结一心，个个奋勇争先，可一旦战争落败，他们则首先考虑保存实力，逃离战场无疑是最明智的决定。
突厥骑兵向东逃出十几里后又仓皇向北奔逃，罗成立刻分兵两路，令鹰扬郎将史横波率领五千骑兵继续北上追杀，另外五千骑兵则蹚过黄水河，在罗成的亲自率领下向娄烦关杀去。
五千隋军骑兵一路向北追杀，追出百余里，杀敌大半，史横波便不再追赶，率军返回羊马城。。