当晚吴军又在城外击鼓，张辽却命众军只留下少许值夜，其余都各自休息，不理会城下，自己也回府中休息。待到半夜，张辽睡得正酣，忽听外面杀声大作，又觉不妙，急忙起身出府。刚至门口，就有军士来报，言吴军乘夜攻城，守城士兵措不及防，已经攻上城墙，恐不多时就能杀入城来。
张辽知又中计，连声叫苦，急忙取兵器出来，正遇乐进，李典二人赶来。乐进见面便道：“事已至此，吾等当率军奋力死战。”言罢便欲与李典一起杀出。张辽却大声喝止，道：“乐文谦，此时汝岂可惩匹夫之勇？”
乐，李二人被他一喝，都停下脚步，只听张辽又道：“今合肥已破，你我徒死何益？丞相此时大军不在，某等一死了之。寿春何人能保？若吴军再夺占寿春，则淮南之地非国家所有。你我不愧对丞相么？”
乐进闻言，诚惶诚恐，问道：“那文远意下若何？”张辽于是分派道：“曼成先保护薛护军等文士出城；文谦可速带人将城中一应粮草辎重全部焚毁，再与曼成回合，退往寿春坚守以待丞相大军。”
两人领命欲去，乐进走得两步，却转身问道：“文远则欲何往？”张辽眼望城上，见已有吴军旗帜飘扬，冷然道：“丞相以此城托付与某，某自当与城共亡，为公等断后。”
“不可。”乐进立时上前，道：“丞相以公重任，可速退保寿春。乐某无能，愿为公断后。”此时杀声渐近，张辽不与二人多言，翻身上马，却复见乐进挽住缰绳，遂厉声喝道：“某为主将，汝敢抗军令乎？还不速去。城中若有一粒米粮落入吴军之手，汝何以对某于泉下？”乐进虎目含泪，却也只得松手，又见张辽身后独子张虎，乃道：“少将军可与某共去。”
张辽转身见张虎年纪尚幼，稚气不脱，心中也感不忍，便欲命张虎与乐进同去。张虎却知其父心意，毅然道：“父亲尽忠，儿当尽孝。”张辽原是伟丈夫，见子如此心中甚慰，不愿再作儿女之态，高声道：“好孩儿。今日就让吴狗知我张氏父子名号。”催马便挥枪冲向城门。乐，李二人见不能止，也只得分头行事。
吴军乘夜攻城，合肥守军皆仓促迎战，又加上连日疲惫，是以抵挡不住。凌统日前见甘宁有功，心中不服，今夜奋勇上前，当先入城，正在胡乱砍杀曹军士卒。忽见张辽杀至，却也认得，乃大声道：“张辽还不前来受死。”拍马上前。张辽也不言语，挥抢便战。
两将大战数十回合，不分高下。此时吴军已经攻入城中，曹军或死，或撤，张辽身边所剩无几。