黎明之时，李傕、郭汜在上林苑、杜陵县一带穷追猛打，天子车驾冲过霸水，仓皇东逃，长安城的大战也进入了最激烈的阶段。
自李傕、郭汜两万兵马围城以来，猛烈的攻城战已经持续了大半夜，因为李傕和郭汜极为警惕张辽，所以留下的是精兵，下的是死命令，两万凉州人的疯狂攻势超乎了张辽的预期，让他不由想起了师父贾诩当初的叮嘱，不要轻敌。
尤其是李傕早探知他占据了长安，此番从池阳带来了攻城云梯，而且凉州人的战法极为刁钻，他们没有全部围困十二城门，而是将两万兵马全部集中在长安城西北的雍门、横门、厨城门和洛城门，因为这四门距离很近，便于相互策应，集中攻打。
张辽让鲁肃等人把守其他城门，他与黄忠镇守这四座城门，
守城的优势在于张辽，但黑夜又给了凉州人最大的优势，因为漆黑之中城上的人很难看到城下人的动向，相反城下的人很容易看到城上要攻击的目标，这种反差会对双方士兵造成很大影响。
所以一开始凉州人几次将云梯架上城墙，险些冲上城门，张辽和黄忠当机立断，立时命士兵向城下抛洒火把、滚木，又泼了油，城下顿时四面火光冲天，令凉州人不敢轻易冲进，而且城下一亮，原先的视野反差倒转了过来，城上弓箭齐发，凉州人伤亡陡涨。
两万凉州人的攻击固然厉害，但张辽早有准备，真正让他感到威胁的是马腾和韩遂，这两厮将兵马屯驻在了长安以东和霸陵一带，黑夜之中也不知有多少兵马，不但威胁到了长安城，更威胁到左冯毅，令徐荣的兵马不敢轻易渡河，以免左冯翊被马腾韩遂偷袭，丢了老巢。
张辽正对此情形头疼，在长安城中的荀攸给他出了一计，既然徐荣已是难以渡河，索性就让徐荣的兵马在马腾韩遂营地一带的渭河北岸擂鼓喧哗，做出渡河进攻之势，让马腾和韩遂不敢轻动。
如此一来，徐荣虽然不能来攻，却反过来将马腾和韩遂的大军牵制住了，让张辽与黄忠能够专心对付攻城的凉州兵。
大战持续了两个时辰，进攻了四五次，直到天亮，凉州人始终未曾攻上城楼，连云梯也被毁了大半，士卒疲惫，士气受挫。
就在这时，张郃率一万精兵从城南杀至，以五千大戟士领头，戟阵过处，所向披靡，凉州人大乱。
张辽见机，令荀攸、鲁肃等人守城，他与黄忠各带一支兵马从两处城门杀出，前后夹击，本就疲惫的凉州人再也无心作战，疯狂逃窜。但长安城西与渭河这一带地形狭窄，他们被南北堵截，无处可逃。
此时战局已定，在马腾韩遂反应过来时，大战已经结束，攻城的两万凉州人死伤超过八千，余者大多被俘。
而后张辽让张郃屯驻城南，黄忠继续守城，