队伍得下大力气整编。
现在梁山泊俘虏太多，一天下来消耗的粮食不在少数。好在许多降兵已经心归梁山泊，只等宋江一句号令，便可加入梁山队伍。
宋江在去青州之前便安排好降兵意向统计，愿意参加梁山泊队伍就留下来，不愿意参加的发路费遣返家乡，但不得再与梁山泊为敌。
故而宋江从青州回来便开始整编，降兵思想教育一直进行，整编后严格训练，定会成为精兵。
首先他让呼延灼挑选一个重装骑兵师，要求士兵都必须是身材魁梧、彪悍、威猛、力量大的汉子；他们所配备的马匹也是百里挑一的良驹，一部分在梁山泊军马中挑选，另一部分则由段景住从北地贩卖而来；盔甲都由汤隆设计，人马皆披一层重甲，如今梁山泊的炼钢技术高超，一层重甲强似以前的两层甲；兵器统一使用唐朝风靡一时的陌刀，不过梁山泊的陌刀却是改良后的加重版。这样重装骑兵马撞刀砍，敌阵瞬间就会瓦解，就算不用刀砍，加重的陌刀横放，纵马冲过去，也足以把人削成两半。
其次还要组建四个骑兵师，算上以前的一个骑兵师，梁山泊要组建起来五个骑兵师。骑兵师全是轻骑兵，马只披简单的护具，人披轻甲，手持锋利的轻质骑兵刀。轻骑兵重在速度快，机动灵活，有时藏匿于重装骑兵后做第二轮攻击，有时跋涉千里做突然袭击，反正这是打击敌人所不可缺少的兵种。
其余俘虏全部编入步兵。
张叔夜偷袭梁山泊时，俘虏了两千多济州士兵；高唐州一役，唐健带来了六千多青壮；第一次反围剿时，董平和张清共带来三千多降兵；而后俘虏应龙和傅朔霖，同时得到降兵将近四千，击败张叔夜又得到降兵六千多；更多的是第二次反围剿胜利后，呼延灼部除了阵亡的兵士，两万多人马几乎都并入梁山泊；再加上桃花山的两千多人，如今梁山泊队伍光扩编的就在五至六万之间，比以前多了将近三倍，军队整体接近十万。
如此庞大的队伍，不进行整编就会乱糟糟的，无法统一管理，形不成应有的力量，因此在以前的基础上，军长应时而生。
如今不算特种兵，侦察兵，重装骑兵和加强部队，战斗队伍总共有十四个师，也就是七个军。按照各自的军功，七个军长分别是：第一军军长林冲，第二军军长史进，第三军军长燕顺，第四军军长王英，第五军军长郑天寿，第六军军长吕方，第七军军长郭盛。
宋江下令第二军军长史进继续驻守二龙山，参谋是闻焕章，携骑兵二师，步兵二