小股游行发展成全城游行。
各界人士早就期待着南北和平统一，段祺瑞顽抗的战争完全是多此一举，是破坏国家团结的无义之事。或许早先还有人对北洋表示同情，可这份协议曝光之后，再也没有一个人有怜悯之心，取而代之的是无比的愤怒和耻辱。
这股民间的抗议情绪很快传染到军队之中，之前接到命令调回北京的五个中央师，陆续传来军官抗议的声音。起初只是中下级军官联名上书，要求总理府澄清此事，到后来士兵们情绪越来越暴躁，再加上长久以来缺粮少饷，抗议很快演变成兵变。
从甘肃兰州出发的中央第七师刚刚行进至庆阳，陕西督军陈树藩早已在边境布下防线，阻止中央第七师越境行军路线。在前有阻挡，后无援兵，内部又兵乱不止的情况下，中央第七师师长迫于压力，只好宣布拒不奉命。没过几天师部由于粮草匮乏，又发出通电宣布起义，接受执政府的统辖，并请求执政府尽快派出物资军饷接济麾下。
随着中央第七师起义的先例，驻扎在山西的中央第四师同样拒绝段祺瑞的命令，转而向山西军政府投诚。热河、晋绥等地的驻军也以粮草不济、军饷不全为由，延缓开赴北京的行军进程。到最后真正抵达北京的只剩下中央第二师一部。
不仅如此，被段祺瑞视为最后希望的山东省督军靳云鹏也在八月二十一日发来电报，宣布山东省独立。靳云鹏是段祺瑞的门生，一直是北洋皖系军阀的中流砥柱人物，只可惜这几日济南省城爆发大规模游行，他甚至抱着大不韪的决心下令警卫队开枪驱散人群，哪里知道竟连警卫队的士兵都同情这些爱国人士，迟迟不肯出手。
再加上时任山东军务总办的张怀芝在一旁不断怂恿，劝说靳云鹏早点为自己做打算，万万不可陪同段祺瑞一起背上千古骂名。紧随其后又收到徐世昌、黎元洪从北京发来的电报，称要想挽回段祺瑞的心思，全在山东一举身上。最终靳云鹏不得不痛下决心，一边宣布山东自治，一边向北京总理府一封千字长文，恳求段祺瑞以国家民族为重，尽快通电下野。
段祺瑞在接到靳云鹏的这份电报时，总理府的文官侍从们也辞职了一大半，留下来的都是昔日从家乡带出来的亲信心腹。他坐在空旷又灰暗的办公室总理桌后面，脸色苍白呆滞，握着电报的手不停的颤抖。他怎么都没有想到，自己寄予希望的日本协议反倒加快葬送了自己，原本抱着必死决心与南方周旋到底的计划，转眼间竟然化为乌有。这种大起大落的心绪，真正的压得自己喘不过气来。
总理府外的大街上还有人在呐喊抗议，甚至大骂“段氏卖国贼”，游行的人群从五天前就一直没有消停过。段祺瑞很像好好教训一下这些刁民，市井小民岂能懂得国家大事？可是府内的警卫少得可怜，守住各处大门已经极