在离老山十五公里外的江面上，日军的巡洋舰在江心一字排开，这个舰队中只有轻型和重型巡洋舰上的大口径舰炮能从这打到老山上，而驱逐舰都不行，更不用说炮舰上的小炮了。为了能让舰炮提高准确性，从轻巡上还起飞了一架水上飞机，用来修正炮火。
日军的舰队在离老山二十公里外时，老山顶上的观测哨就发现了日舰的到来，并用对讲机通知了炮位上的炮兵。日舰停下船只时，炮台上的炮兵也做好了炮击准备。日军军舰开始对老山炮台进行炮击的同时，炮台上的德制一五零重炮也开始对日军发起了炮击。
十五公里的距离是双方火炮射击的最佳距离，日舰上的舰炮有观测飞机的校正，打的也很准，炮弹在炮台的上方山岩上和炮台前不断的爆炸，好在炮位是缩在山壁中的，四飞的弹片基本上都打在了山壁上，就是有飞进炮位的，也被火炮上的护盾挡了下来，所以虽然日舰炮火打的很凶，炮台上炮兵的伤亡并不大。
而炮台上的火炮射出的炮弹却严重威胁到了江面上的日军军舰。德制重炮的瞄准是靠山顶上的观测哨来完成的，观测哨测出距离方位后，把坐标用对讲机报告给炮位上的炮兵，炮兵只要根据这个坐标校调炮口就行了。二十门重炮对准同一个目标，结果是目标周围很大的一片范围都被炮火笼罩住了。
炮战只进行了五分钟，日军的那珂号轻巡洋舰首先中弹，一连四发四十八公斤重的榴弹炮弹落在了这艘轻巡洋舰的身上，榴弹炮弹虽不如穿甲炮弹那样对军舰更有效，但是这几颗榴弹炮爆炸后的冲击波和弹片也在那珂号的甲板上形成了一场金属风暴，只要是暴露在爆炸范围内的日军都受到了至命的打击，连舰艇中部的指挥室也被弹片打的千创百孔。
虽说那珂号轻巡洋舰并没有重伤，但水兵大量的损失也让他的战力严重下降。在高雄号重巡洋舰上的舰队指挥官大岛川一少将看到那珂号受到了打击，一面下令继续对老山炮台进行炮击，一面让那珂号军舰撤出战斗。
在老山炮台与日军的数艘巡洋舰进行炮战时，二艘驱逐舰悄悄的靠近了老山炮台，每艘驱逐舰上都装有四门45倍径120毫米口径的单联装炮。当二艘军驱逐舰离老山炮台只有八公里左右时，驱逐舰上的火炮也加入了炮战中。
双方炮战进行了二个小时，日军的军舰见无法成功的摧毁老山炮台，而自己这边又有二艘军舰被击伤，指挥官大岛川一果断的指挥舰队撤出了战斗。日军舰队一撤，炮台上的炮兵们也累的瘫在了地上。二个小时高强度的炮战，就算这些炮兵体力再好，也吃不消了，这重炮的一发炮弹可是重达四十八公斤。
日军军舰没打羸，步兵同样也没占到什么便宜。第十八师团在进攻叶集和金寨的二路人马，一路上被小股的部队不断的袭扰着，再加上山道难走，一直走了二天才算到达守军的阵地前。守卫叶集的是五十六师的二七四旅，旅长马炳祥少将也是从上海战场上一直打到这里的，对日军作战的经验那是相当丰富。
叶集镇身处河南和安徽交界之处，是一处群山环抱的山凹之地，镇子前有一道可勉强通行卡车的公路--商六公路，这条公路连接安徽的六安市和河南的商城县。叶集镇南方几公里处就是富金山，富金山在商六公路的南侧，居高临下可以完全封锁住这条公路，日军想绕行都办不到。
马炳祥旅长把战斗力最强的五六二团放在了主峰的正面战场，五六三团一营在左边阵地上，二营在右边阵地上，三营是全旅的预备队，重火力营一分为二交给二个营使用。在主峰顶上隐蔽处有全旅的一个迫击炮营，旅直属警卫营放在了叶集镇。
日军第十八师团的第二十三旅团在旅团长大冢宏率领下直扑叶集镇，当部队走到富金山这里时，发现富金山上有中队在驻守。大冢宏在仔细的看了地型后明白，要想从眼前的这条公路上通过，富金山是必须要攻占下来们，否则部队是不可能安全从山下通过。
既然这样，那么就只好攻山了，大冢宏让随自己而来的山炮大队摆下炮兵阵地，十二门七五山炮对准了正面的主阵地。山脚下，一个步兵大队也架起了四门九二式步兵炮和十几门迫击炮，并且做好了出击的准备。
对于日军这种先炮轰，后步兵攻，攻不下来再炮轰的进攻方法，五六二团团长谢伯亭和手下的这些战士们那是知之甚深，因此在修工事的时候，怎么也不会忘记在阵地后方的山壁上挖出一些防炮洞来。正面主阵地上从第一道防线到山顶一共是修了三道防线，每一道防线上是一个营的兵力，重火力营也是一分为三，交给三个营来使用，团警卫连是做为预备队暂时隐蔽在山顶的一个山洞里。
此时第一道防线上只有几名观察哨躲在工事后面注视着山下的日军，其佘的官兵都在阵地后方的防炮洞里隐藏着，五六二团里十个人里面有八个是老兵，谁也不会害怕日军的进攻，那些新兵弹子在保卫徐州时也经历过二、三次战斗，虽说没这些老兵们那样坦然自如，但也没了新兵的那种紧张。
果然，攻夫不大