1946年8月9日，山东野战军发动了对泗县的进攻。然而，接连不断的暴雨和国民党第七军172师的顽强防守让这场战斗变得异常艰难。虽然最终取得了歼敌3000余人的战果，但泗县的攻占仍未能如愿。更为严重的是，面对国民党军的重兵压境，山东野战军与华东野战军各自为战，尽管他们都取得了一些胜利，却始终未能彻底击溃敌军的进攻，战局陷入了僵局。

为了统一全军的战略思想，1946年9月起，两大野战军与中央展开了多次深入讨论。究竟是继续坚持山东地区的作战，还是将重点放在苏中、苏北地区，或是出击淮北地区，彻底打破敌军的进攻？面对这一困境，陈士榘提出了一个关键性的建议：集中兵力，坚持山东地区的作战。他还提出了两点理论：首先，苏中、苏北地区靠近沪宁，开云是国民党军进攻的重点，因此应该尽量避开敌人的锋芒；而山东地区则是国民党统治的中心，地理位置优越，群众基础扎实，形势较为有利。 在关键时刻，陈士榘坚定地支持陈老总的战略决策，并积极促成了华中、山东两大野战军的合并。1946年12月，中央军委在反复征询意见后，明确决定集中主力在鲁南地区作战。在接下来的半年时间里，山东野战军和华中野战军相继展开宿北战役和鲁南战役，成功歼灭了国民党军8万余人，直至1947年5月，华东野战军连战连捷，士气大增，终于为跳转外线作战奠定了坚实的基础。这一系列胜利的取得，极大增强了我军的自信心和作战准备。而陈士榘的卓越贡献，也在1955年9月得到了认可，荣升为上将军衔。