大云山位于新墙河以北几公里，是第九战区重要的前阵地。日军第11军为掩护主力队向新墙河以北集中、展开，占领较大的渡河地带，于9月7日命令第6师团向大云山地区扫。9月9日大云山失守。

    10日，第6师团主力认为已经完成任务，撤离大云山地区向桃林方向集结。国军第102师、第59师一看机会来了，围住留守的日军第13联队一顿暴揍。日军第40师团重松支队赶到甘田接应第13联队撤往草鞋岭，被国军撵着打。双方在甘田、团山坡的狭小区域展开拉锯战，均伤亡惨重。

    9月15日，第九战区司令官兼任国民党湖南省主任委员和省主席的薛岳将军侦知日军已经有4个师团以上的兵力集结于湘北，猛然醒悟——小日本是要来攻沙啊！他上命令第27集团军主力向新墙河以南转移，严阵以待。

    9月17日，日军集结完毕，到达攻发位置。阿南惟几接受第一次沙会战兵力分散的教训，将队并列署在狭窄的正面，以期行纵突破。

    18日拂晓，日军在炮兵、航空兵、坦克的合渡新墙河，突破国军第4军的两防线。军欧震鉴于日军兵力占优，正面阻击已经不可能奏效，便命令各师替掩护向关王桥以东的山区转移。

    19日，日军第3、第4、第6师团快速向南突，傍晚到达汨罗江北岸的石铺、乐街附近。第6师团一渡过磨刀河，与奉命阻击的国军第37军在颜家铺、浯一带缠斗。

    20日，接到报的蒋委员领导的军事委员会给第九战区拍来雪片儿似的电报，详细指挥本次战役。万万没有想到，这些电报全被日军特门窃收并破译。军事委员会指导得越，第九战区的队打得越艰苦。日本预测21日会现日全，赵继统立刻给畑俊六发报，建议暂停攻击，以免动摇军心（‘陆军御国旗’图案为日之居中向外散发16旭日光芒，战争中如果发生日全遮蔽住了血的太，给日军官兵蒙上了很大的心理影），国军将士才得到片刻息机会。

    22日至24日，日军突破主阵地，将国军第26军第95师、第140师包围。国军第37军奉命向麻林市突围，伤亡惨重。24日，日军第40师团加对国军第26军的围攻。