自从6月份苏德战争爆发后，极大刺激了日本扩张的野心。日本内阁对于是北进还是南下进行激烈的辩论。以日本的实力，绝对不可能同时南下和北上，北上解决不了日军急需的石油，钢材，锡，橡胶等资源的问题，而南下则不同，东南亚正好有这些资源。
不出意外地日本内阁辩论结果是南进东南亚的战略占了上风，得到了大多数阁僚的支持。1941年7月，日军公然开入法属越南以后，英美两国就是再傻也才再明白，日军必将南下进攻他们的殖民地。
美国除了立即对国民政府提供贷款，更使出了一招杀招，也就是于8月宣布对日本进行石油禁运。当时日本几乎无法自产石油，而消耗量却高达每年250万吨以上，所以绝大部分石油都必须进口。石油是现代军队的血液，如果没有石油，日军强大的联合舰队和数以千万计的坦克，飞机就成为废铁，军队也就等于垮了。
这样一来，日本政府就陷入了是从中国撤军，还是孤注一掷南下的问题。日本不可能舍弃到手的中国利益。但中国战场又牵制了日军大量的兵力，除了主力师团、旅团外另外还有大量的航空兵，海军，总兵力大大超过130万人。
日本军部当时已经对短期内征服中国不抱希望，却仍然想从中国泥沼中抽调出一部分军队，参加南下的作战。毕竟，当时在中国战场的日军无论战斗力，武器装备都是日军最强的，是日军的精锐。
除了抽调关东军外，华北派遣军因为对手较弱，主要是国共敌后武装，所以华北日军多是守备师团，素质较差，抽调不抽调意义不大。华中地区的日军11军则是侵华日军精锐的精锐，他的第3，第4，第6，第13等精锐师团，是在华日军的主力。
日本军部想从11军中抽调部队南下，遭到了当时刚上任的第11军司令官阿南惟几中将拒绝。阿南惟几在当时认为，第11军在武汉处于国军三个战区夹击下，防御尚且困难，如何可能抽调部队支援南下作战。但日本军部表示这是命令，阿南惟几只得想办法执行。
他想到的唯一办法，就是立即出兵猛攻正面的薛岳第九战区，将其歼灭或者重创，让他失去对日军的威胁，这样才能让第11军抽调出部分部队支持日军南下。
阿南维几总结了前任岗村宁次在第一次长沙会战中分兵合进的弊端。这种打法，在有限的兵力之下，只可能对国军进行击破战，也就是迫使国军撤退，却不可能有效合围歼灭国军。多路进攻，部队与部队之间空隙太大，国军也很容易突围。
阿南惟几认为此次作战，必须将日军重兵的师团集结在一起，互相相隔不超过半日的路程，一同进攻。一旦遭遇国军主力的顽强抵抗，立即用几个师团进行猛烈夹击，一个个重创国军的部队，最终导致第九战区主力被全歼，防御阵线完全崩溃。
在这种思想下，1941年9月7 日军第6师团果真进攻大云山。驻守大云山的是第四军主力。8日日军攻占大云山，但国军趁第6、40师团换防时发动反攻，收复大云山，重创了第6师团第13联队、第40师团重松支队。
探知到日军集结的兵力十多万。薛岳心里犯起了嘀咕，日军集结这么多的兵力，不可能只为一个大云山。战情分析中，李振华明确日军会集中10一13万兵力，第一步会进攻大云山，那第二步呢？是不是真的会像战情分析中分析的那样重兵正面突破，薛岳调了大云山一部分力量回防新墙河。并致电74军做好准备从万载前往湘北。
日军这次确实是将主力并列于狭窄正面，纵深梯次配置，以第 3、第 4、第6师 主力及第 18混成旅等部部署在岳阳，为第一梯队；第40师和第33师的两个师团位于临湘地区，为第二梯队。另外以第6师团的两个旅团由忠防、西塘分两路向大云山实施包围，掩护主力部队集中和展开。
9月18日拂晓日军出动了300多门火炮、100余架飞机轰炸国军阵地。下午4时第3、4、6、40师团在杨林以西20 千米的新墙、童溪街、四六方等地强渡新墙河，步兵在骑兵和坦克装甲车的引导下，如潮水般涌过河来。立印遭中国第4、58、20军阻击。双方在新墙河两岸展开厮杀，国军利用轰炸后残存下来的30多门火箭炮对新墙河北岸集结的日军进行了两轮覆盖射击。将近800多枚造成北岸日军大量伤亡，日军进攻为之一滞。可惜的是火箭炮暴露位置，炮兵阵遭到日军火炮、飞机轰炸，好在火箭炮轻便、易转移，才没有被完全歼灭，但损失也不小。日军立即组织第二次进攻，前沿一线的第102师、60师、59师拼死还击。其中要数第4军102师打的最为激烈，该师防守地段是日军第3，第4，第6师团的集中攻击方向。
102师原是黔军双枪兵，师长柏辉章。遵义会议开会的那座大楼就是他的公馆。柏辉章在贵州时是臭名远扬。除了带兵外，他的主要工作就是是贩卖大烟，勒索民间，祸害老百姓。但全面抗战发生后，9000多人的102师被调出贵州，走上抗日战场。柏辉章及102师却打的极为英勇、战斗意志极为顽强。淞沪会战时，全师仅剩3000人。补充到7000人后，经过徐州会战，又只剩2000多人。第二次长沙会战前部队经过整补，部队齐装满员7000人。
102师连续打退了日军数次强渡，面对拥有坦克、装甲车的日军强渡部队，102师用火箭筒轻松敲掉了打头的坦克、装甲车。机枪不断射杀强渡的日军步兵，日军欲修复新墙河上的桥梁，该师集中所有火力封锁河桥通道，并把桥梁炸塌，日军攻势稍减。战斗一直持续到19号拂晓，日军加大攻击力度，102师再次用仅剩的十多具火箭炮对北岸日军进行了一次齐射，随后火箭炮损失殆尽。经过一天一夜的厮杀，102师损失巨大，柏师长手上已没有预备力量，连工兵都派出了笔架山阵地。