中平五年二月二十三，休屠王栾提呼利拔杀羌渠单于举兵叛乱，并州刺史张懿也被斩首祭旗。随即休屠王句龙王等人在二十四日宣布拥护须卜骨都侯为新任单于，并将张懿尸身枭首，传阅诸部，以示绝不妥协之意。
政变突兀，为防止原羌渠一脉生变，须卜单于又遣人下令赦免左贤王于扶罗、右贤王呼厨泉、先贤骨都侯刘宣。令其拢共七万众戍守原地，保留王爵不变，须卜单于身下无子，仍以于扶罗为单于继承人。
于是十万大军开拔，兵分两路，一路南下，直奔离石，一路东行，转掠太原。因张懿征调并州西河、上党、太原三郡郡兵拢共两万众驻扎离石，加之陈冲年前招抚白波军的消息，休屠王遂以南路作为主攻，召集屠各铁弗等各部精锐，拢共七万余众渡过河曲。
而以大且渠智牙斯为东路主帅，独孤骨都侯为东路副帅，新任须卜单于与呼延王于勒都坐镇，并交付说降呼厨泉之任，如若呼厨泉率部族加入，则可转掠雁门太原二郡，扼守太行八关，交好黑山张燕，最后与东路军合兵上党，全取并州。
走到半路，休屠王呼利拔又派出一路使者前往圜阳，通告郭大，匈奴愿与白波义军共襄大事，“此正雪耻报仇之际，大义申张之时”，如若终能驱逐汉军，匈奴可助义军进取河东。郭大虽收取书信，却表示白波军新近战败，并无战意，战事来日再谈。
呼利拔也并不着急，大军沿黄河南下途径白波谷时，七万大军手持火把，如一条火龙于黄河上盘旋，白波谷内亦有一二火光，隔河相望，在此火龙之前如同萤火闪烁。
对岸的白波士卒看去，匈奴大军声势如虹，规模浩大，一眼望去不知何处是尽头，干脆立刻偃旗息鼓，做退让状。这不禁让此岸的匈奴人嬉笑起来，不少善射的勇士朝对岸射出箭矢，还有人高唱起求爱的歌谣，在缄默的对面尽是蔑视和高调。
休屠王对此无动于衷，只是对身旁的当户下令各部不得无事生非，全军加快速度，继续向南。一个时辰后，新筑的曲峪城便首次亮相于匈奴大军眼前。
经过三个月的加紧修缮，曲峪城的城防仍算不上完善。由于人力紧缺，曲峪城的城墙只能说与美稷王庭不分上下，二丈余的夯土墙加上四角望楼，加上正门的三丈门楼，显得寒酸非常。但识兵如休屠王等人，一见曲峪城池周遭形势，无不脸色骤变，不得不严阵以待。
曲峪城虽小，但西河地形本就狭隘，大河两岸通道极窄，曲峪城墙虽然不过百丈长，却不多不少，正好卡在大河与柏岭