八月初三，也就是前时那场大雨停后的第三天。
李渊率部出贾胡堡，经山脚小路，进向霍邑。
起初，李渊担心宋老生固守不出。李渊军中没有攻具，如果宋老生固守城中，那这仗就没法打了。但李建成、李世民兄弟却以为：“宋老生勇而无谋，我以轻骑挑之，他必会因怒而出。”
李渊以为然，於是就与李建成、李世民兄弟率领前部骑兵数百，首先到达了霍邑城外。到达之后，李渊一边带着骑兵大队，暂停於霍邑城东外数里，等待后续的主力步兵到达；一边即使李建成、李世民兄弟将数十骑至城下，举鞭指麾，若将围城之状，并且同时辱骂宋老生。
一如李建成、李世民兄弟所料，宋老生果然被激怒，其乃引兵三万，自东门、南门分道而出。
见计得售，李建成、李世民兄弟驰还回到了李渊处。李渊已遣殷开山传令后边的主力步兵，令之加快行速，速速赶来。当主力步兵赶到战场时，宋老生带出的部队才刚组成阵地。
李渊打算先令军士吃饭，吃饱后再进战。李世民进言说：“时不可失！”
宋老生部是三万人，李渊带来的兵马也是三万人，双方在兵数上势均力敌，但宋老生部的军械装备等，要比李渊部好，加上宋老生部后有城池可依，如果不立即展开进攻，而竟等宋老生部扎稳阵脚，再做进攻的话，胜败就难说了。
李渊立刻醒悟过来，便改变了主意，即自与李建成引一部兵，阵於城东；使李世民和他的女婿柴绍引一部兵，阵於城南高处。
宋老生是员悍将，认准了李渊的所在位置，麾兵疾进，率先发起了进攻，先攻李渊、李建成阵。激战中，李建成坠马。宋老生趁势加强攻击。李渊、李建成阵抵抗不住，被迫后退。
而就在此际，李世民率军头段志玄等，自城南高处引骑兵两千驰下，冲击宋老生阵。一举将宋老生阵从中截断，出其背。继去鼠雀谷救援李渊的那一仗之后，李世民再次展现出了他的英武风姿，在冲战的过程中，他手杀了数十敌人，两刀皆缺，流血满袖，洒之复战。
李渊兵借此复振，因传呼道：“已获宋老生！”
宋老生部的将士哪里知道这是李渊的诈计？回顾望之，能见到的只有李世民及其部曲的来回冲杀，势不可挡，便宋老生部将士，当真以为宋老生被俘了，由乃大败。
李渊部的将士抢在宋老生部之前，杀向霍邑的城门。霍邑城门因此紧急地放下了千斤闸。
宋老生逃回城