国军见此，发炮还击，可怜，国军的炮火与日军相比，悬殊太大了。王建庆见洛阳城倾刻间便要陷于敌手，命令所有的炮火一起还击日军一部，竟打退了日军的第一次进攻。晚上，王建庆连夜修复了被炸毁的城墙。第二天，王师长命部队将成束的手榴弹放在迫击炮筒里，利用炮弹的携带力，向城外日军一束束掷去。这种做法竟弥补了炮弹之不足，见日军攻势减弱，王师长下令全线出击。在肉搏中，国军将士无不争先恐后杀敌，将攻入城内的日军杀退。
到了第二天的晚上，援军仍不见到来。王师长对师部主官们说：“何司令长官要我等死守洛阳，数万日军在成群的坦克的配合下已两次突入城内，虽被我军杀退，但我军的损失已过半，而日军的锐气又不减，诸位有何良策以挽回战局？”众皆默然，无一有主张。王建庆奋然，说：“我部大多将士生于东北，要生还家乡，何日才能。既然诸君无策挽回危局，我等只有死战，以报国恩。诸位切记，此时突围已难。大丈夫战死于沙场，虽不图青史留名，也落得壮烈魂归故里。明日杀敌虽死犹生。”
由于前两天的攻城，日军都遭受到国军的顽强抵抗。第四天，日军倾巢而动。那日军的炮火向城内猛轰，将几米厚的城墙轰塌了一大口子，日军源源不断地沿着缺口处涌进城来。这是日军第三次进城了。王建庆大怒，亲自带着直属营，冲在前面，他将轻机枪操在手中，一阵猛扫，日军虽众，但火力施展不开，国军一阵冲杀，将缺口处的日军杀退，夺回了缺口。
然而，当王建庆站在城楼上，参谋长向他报告，剩下的国军还有不足两千人时，王建庆一股悲哀涌上心头：“区区两千人，如何抵挡数万日军的进攻。”
夜晚，精疲力竭的王建庆站在城楼上，遥望天空，虽繁星万盏，但却无法驱逐那心中的苦闷，此时的他已是一筹莫展。再看远处，那依稀可见的日军营房里，灯光闪烁之中，成群的坦克将日军围成一团，在品尝佳肴。此时突围是最好的良机，冲出去，至少还有几百号人生还。但将军未接到突围的命令，又岂敢自专。何况城内居民是多么的舍不得自己的子弟兵啊。见警卫连长在身边，王建庆无不愧疚的对他说：“我对自己的选择无怨无悔，所不能饶恕自己的是不应该将老母，幼儿、娇妻留在城内。老家已无回去之理，但总不能让老母看着自己的儿子的尸体被日军抬着游城示众吧。”他有些心寒，但他此时又能说些什么呢？独自一人尚且血战到底，何况还有一两千相亲相爱的弟兄。
这天，也就是1944年的5月20日下午三时，数万日军在上百辆坦克的配合下，向洛阳城发动了猛烈的进攻，守城部队再次投入了战斗。王建庆已无力阻挡日军入城，只好率部进行巷战。哪知几个小时后，日军见我军顽强抵抗，也不知城内的虚实，竟退出城内。王建庆大喜，带领残部五百余人，发一声喊，斜刺里冲出。待日军追赶时，这里已冲出去好几里路了。出围后，王建庆清点人数，仅存三百七十余人。
日军被王建庆杀怕了，直到天亮后才发动新一轮的进攻，见未遭到抵抗，方知是一座空城。河南重镇洛阳陷于敌手。
洛阳失陷，河南战役结束。这次战役，从四月七日开始，五月二十四日结束，共计三十七天，陷城市三十七座，一天一座。仅管蒋委员长调兵遣将，然而，终未挡住日军的进攻。而与此同时，日华中方面军总司令钿俊六也指挥三十万日军向薛岳的第九战区发动了极为猛烈的进攻。
还在河南战役时，日本当局便命钿俊六开始了长衡之战。长衡之战就是指长沙和衡阳的一次大会战。早在二月初，日军即开始调兵遣将。五月二十五日，钿俊六来到汉口，部署长衡战役。
长衡会战的日军是华中派遣军整编第十一军。日军整编第十一军是一个大集团军，现编有八个师团又一个旅团。再加上从其它地方抽调出来的部队，总兵力为三十万人。钿俊六为使战役进展顺利，还调动了日飞行大队和四万匹战马到前线，由第十一军军长横山勇作前线总指挥。
此时，阿南惟机已调回日本国内。接替阿南的是塚田玫。塚田玫生于1886年，1935年官拜少将，1938年晋升为中将，1942年接替阿南惟机时已晋升为大将。当时，塚田玫参加钿俊六的南京军事会议后，乘专机回武汉时，由于飞得很低，在皖鄂交界的太湖县上空为我国军第138师高炮部队击中，机毁人亡。这是侵华日军被我击毙的最高军衔的日军军官。今年的2月，横山勇接替塚田玫职务。上任不久，便举行第三次长沙战役，结果大败而归。
中国方面迎战的是第九战区司令长官薛岳。现薛岳手中有十七个军的编制，总兵力为四十万人。人数与日军大致相当，但装备明显低于日军。显然，这是又一次以劣势对优势敌人的进攻。这些天，薛岳一直在考虑，日华中方面军动用如此大的兵力的目的是什么？前面三次长沙会战，皆以日军大败亏输而结束，这一次与前两次的差别又在什么地方呢？如果是寻国军主力决战，不占大城市，则应避实就虚。待日军将老兵疲时予以痛击。他把这个想法告诉重庆的蒋委员长。蒋委员长第二天回电同意他的作战方案。
薛岳接到委员长的电令，便命第20军军长杨汉辰率部守汩水，第4军军长张德能部守长沙。又命李玉堂兵团守衡阳。为防不测，他急调第三十集团军总司令王陵基部守益阳，部署完全后，薛岳将司令部移向衡阳，并将情况告诉蒋委员长。
在重庆的蒋委员长看了第九战区的部署，认为很周密。正因为如此，才使国民军的大帅蒋中正和第九战区总司令长官薛岳忽视了强敌压境的日军在立体作战中的强大威力。而薛岳也丧失了集中兵力痛歼日寇一股的时机。
到了5月27日，日军第十一军总司令长官横山勇指挥八个师团在飞机和坦克的配合下，分路向第九战区发动了前所未有的特大规模进攻。日军的进攻分为一线兵团和二线兵团。一线兵团担任正面作战，由其精锐的四个师团组成。三个师团为二线兵团，作为机动部队。另外还有两个旅团为辅助部队。