月，宋金刚率定杨军数万围攻晋阳，李元吉率领城内城死守，晋阳内的存粮足够数万唐军一年所用，晋阳城墙高大，护城河之水既深又宽，在定杨军攻打榆次之时，李元吉就在晋阳城外广挖壕沟，建筑高垒，并于晋阳东门修建了两座军营，与晋阳呈犄角之势，协助城内守军防守。
宋金刚率军来到晋阳城下，为了能够攻下晋阳，他命令部队向那两座唐军大营发起了猛攻，唐军大多由晋阳的本地人组成，深知若是晋阳被贼寇一般的定杨军攻破，家中的一切将无法保全，故而，面对定杨军的猛攻，他们拼死作战，绝不后退。
花费数日的功夫，折损了数千人，就连刚刚投降了定杨军的原唐军将领张达也死在了某道营垒之前，定杨军宋金刚部仍然没能攻进唐军这两座大营，最佳的一次战果也仅仅是攻到了其中一座大营的寨棚前而已。
李元吉虽然狂妄无知，性情暴躁，却也并非无能之辈，何况，李渊也给李元吉留下了不少能人，协助其镇守晋阳，像宇文这样不识时务自以为是忠臣的家伙毕竟还是少数，对大多数的人来说，他们为李家卖命，不过也是混口饭吃而已，所谓的忠诚就是食人之禄，忠人之事，他李家的江山，他李家的人愿意折腾，其他人又何必多事呢？
不过，面对定杨军地攻击。他们就不会视若无睹了。
晋阳是他们这些人家族的立身之地，定杨天子刘武周可不是唐皇那样宽厚仁慈，知根知底的大人物。
当初，刘武周在马邑任鹰扬府校尉，在马邑太守王仁恭麾下任职，王仁恭对其格外信任。将府邸的安全也交给他看守，不想这家伙却和王仁恭的小妾勾搭起来，并且，乘天下大乱时，阴谋发动兵变，杀了王仁恭，夺了马邑。
如此忘恩负义的家伙，纵然一时得势。也不会长久，现在，只不过是依仗突厥人之势才如此猖狂，一旦时局变幻，失去突厥人地支持，他也只能败亡了事。
所以，面对来势汹汹的定杨军，晋阳城内，却很难出现投降的意头，为了保卫家园。为了财富不被城外的豺狼夺去，他们只能团结在以齐王李元吉为核心的并州府文武大员麾下，奋力作战，与城外的定杨军进行殊死的搏杀。
久攻晋阳不下，宋金刚营中缺粮，马邑。雁门两郡地处边塞，土地贫瘠，要想供应数万定杨军长期作战，乃是一件不可能完成的任务。
面对这样地局面，只有三个解决方法，第一就是率领大军北返，退回马邑；另一个解决方法就是尽快攻下晋阳，夺得晋阳的粮草补给；最后一个办法就是另寻蹊径。放弃难以攻克的晋阳不打，转而南下，进取并州，河东之地。切断晋阳和关中的联系，使其成为一座孤城，然后再徐图之。
五月中，宋金刚突然从晋阳城下撤军，率领大军徐徐向南进发，其作战意图已经非常明显了，宋金刚简直就是大摇大摆递在李元吉的面前扬长而去。
李元吉见宋金刚不但没有知难而退，反倒继续南下，简直视晋阳的数万唐军如无物，他心中大是恼怒，不顾左右的劝阻，一心要亲自率军出城追击，最后，在左右，特别是表兄窦诞的苦劝之下，这才放弃了亲自带兵的出城追击的打算，只是，仍然派遣了一员大将率领一万精锐出城追击，攻击定杨军地后队。
在唐军的突然袭击下，定杨军的后队很快就崩溃了，然而，就在唐军追击想要扩大战果之时，宋金刚早就潜伏在前方不远处的精锐铁骑突然杀了出来，反倒打了唐军一个措手不及，这一万人逃回晋阳城的不过区区两三千人而已。
遭到这样的挫败之后，李元吉甚是愤怒，将逃回晋阳地主将斩首示众，不过，他到是不再一意孤行，非要再出城去攻击定杨军，而是采纳了众人的意见，先近观其变，确切掌握定杨军的行踪之后再来谈应对之策。
五月十九日，宋金刚部前锋攻陷平遥（今山西省平遥县）。
六月十日，定杨军逼近介州（今山西省
），在围城之时，城内的内应和尚道澄动用信徒，秘门，将定杨军放入城中，城遂陷落。
面对定杨军来势汹汹的攻势，李渊甚是惊恐，一连数日都在关心并州方面的消息，连觉也睡不安稳，最喜爱的美人那里也许久未去了。
刘武周虽然来势汹汹，李渊其实却并不是很担心，他担心的是刘武周只是突厥人地马前卒，紧跟在后面的将是突厥的大部人马。
当初，突厥的一千轻骑与梁师都地军队联合，进攻延州，却被延州太守段德操击退，从这可知，那方向并非突厥人的主力，突厥人的主力应该在马邑和雁门方向，说不定现在已经南下并州了。
为了让突厥人放弃南下的意图，在突厥汗国的使者来长安通知始毕可汗逝世的消息时，李渊进行了盛大的哀悼祭礼，他停止了朝会三天，命令文武百官按照顺序到突厥时节住的国宾馆吊丧，自己也亲切地会见了突厥使者，在让其带回突厥的文书中，言辞显得格外的卑下。
随后，他又派遣内史舍人郑德挺出使突厥，赠送了葬仪三万匹，用以贿赂新任的突厥可汗，顺便打听突厥方面的虚实。
—
在外交方面，李渊将自己的位置在突厥人面前放得很低，希望能让突厥人放弃南下的打算了，但是，同时他也没有指望能凭借这些动作就能化解这次兵灾。
他任命自己最为信任的亲信，很久以前就跟随他的裴寂前往晋州道（今山西省临汾市），担任晋州道行军总管，全面指挥晋州道的各路唐军，抵御刘武周，卫护河东之地。
还未到达晋州道，裴寂就让人快马前去前线，让位于第一线的左武卫大将军姜宝谊，行军总管李仲文迎战。
这两人都是裴寂的亲信，自然对裴寂的命令坚决服从，没有二话。
裴寂之所以没有等到大军全部集结齐全，就让这两人前去迎敌，出于他的一点小小的私心，晋阳起兵，最大的策划功臣是裴寂和刘文静二人，然而这两人为了权位现在已经反脸为仇了，其根本原因在于裴寂紧跟着李渊的步伐，乃太子李建成的坚强奥援，而刘文静却一直和秦王李世民交好，乃是李世民的支持者。
第一次浅水原大战，李世民被薛举击败，刘文静替李世民背了黑锅，被李渊革去了官职，甚至差点杀了他的头，后来，李世民剿灭西秦帝国之后，在李世民的恳求下，李渊让刘文静官复了原职，然而，这个时候他的官位已经在裴寂之下。
刘文静自认为才干和功劳都在裴寂之上，现在官位却在裴寂之下，心中大为不满。
所以，裴寂为了证明自己的能力，自告奋勇向李渊恳求，希望能让他出任了晋州道行军大总管，担负起抵御刘武周的任务，李渊欣然应许了。
面对这样的状况，姜宝谊，李仲文这两个裴寂的心腹亲信自然要为裴寂拼命效力，讨个头彩。
故而，两人在各路大军还没有聚齐的情况下，率领本部人马主动放弃了防区，主动向定杨军发起了进攻。
在这只唐军前面的乃定杨军黄子英部，黄子英乃是刘武周的心腹，马邑集团的悍将，和前军统帅宋金刚相属于两个系统，故而，宋金刚让他独领一军，独当一面。
黄子英的军队驻扎在雀鼠谷（今山西省灵石县西南汾水河谷），部队行踪飘忽，不时有小股部队朝唐军发起袭扰性质的攻击，让姜宝谊，李仲文这两人不胜其烦。
不过，每次交战，定杨军总是很快被唐军击败，如此反复再三，姜宝谊，李仲文确认面前的这只定杨军无力抵御本方的进攻，于是，在又一次接触战后，他们率领全军发起了追击，这次却进入了定杨军的埋伏阵地，唐军大败，姜宝谊，李仲文这两人也被黄子英所俘虏。
裴寂担任晋州道行军大总管的第一次战斗就以失败收场了，这仿佛预示着他这次的行动恐怕将所行不顺。