次日，环绕城垣三面的数百只牛皮战鼓发出震耳欲聋的吼叫，张济的第一波攻城开始了。数百名鼓手轮班休息，鼓声彻夜不休。巨鼓的敲击声震慑心魄，令攻者振奋，而令守者惊悸。鼓声刚下去的时候，连带着地上的浮尘都震动起来，在秋风中化成一股可见的金黄尘浪。在尘浪之下，如尘埃般的士兵开始向离石城墙靠近。
张济的攻城安排非常奇特，第一日的攻城其实是三面佯攻，虽说城中多是临时征募的壮丁，但既然是陈冲守城，他也不指望一日破城，而是想先试探出陈冲在城中各处的布置，特别是原有两千士卒的方位，而后再针对强攻。
离石城已做了多年的郡治，这四年又经陈冲杨会先后修缮，已高达五丈，又分外郭内城，外郭之前也有壕沟与护城河，因此张济先安排填埋沟壕。白波军士将掘出的土用推车装了，或用麻袋装了驮在马驴背上，人马轮番扑来，把土都倾倒在深沟里面，好似排山倒海。
不过多时，壕沟就被填满。随后凉人开始倚城填土，推积土山。城上落矢如雨，张济军便用排盾护送，继续推土不肯稍歇。被射中之人倒在地上，先还有人冒着箭矢将之拖回来，后来死的人越来越多，也就顾不了了，张济干脆下令，把尸体一起埋在土山里，上面继续倾土。到了晚上，战鼓之声丝毫不减，城下的松柏火把宛如漫天繁星。如此持续了两日，三面的土山便填了两丈，已到可以蚁附的高度。
但张济到此为止，到了凌晨，他问三面填土的军士，看哪一面遇到的抵抗最强。孰料都回答说，城上的守卒都不射远箭，等己方到城下五十步才一起放矢，分辨不出哪里有区别。这让张济大为失望，他与韩暹杨奉商量缘由，韩暹说：“陈冲用兵，通常都余留最强一部，以备不测，等紧急之时方才起用，将军今日三面佯攻，恐怕陈冲也是三面虚守，未尽全力。”
这让张济大为头疼，便只好放弃取巧，转而将兵力集中于南面，在次日从一处填土攻城。于是陈冲便也相应的将兵力集中在南面，其余东西两面则安排剩下的壮丁上去，用木头先立起高楼，而后绑缚连接相邻的两个高楼，搭起木台，层层加高，而后在上面布置弩手。
攀城的前锋攻了半日，忽觉墙上箭雨减小，于是抓紧时机纷纷登上城墙，孰料等他们登上城后，才发现外郭的城墙内侧已被改造成一道平缓的斜坡，斜坡上能容纳近两千人，他们等墙边爬上了三百来人，南北两侧忽发弩箭，将后续的攀城军士压得抬不起头，而斜坡上的守卒则一拥而上，与先登的攻军们厮杀在一起